GNU Linux-libre 6.9.1-gnu
[releases.git] / arch / sparc / crypto / des_asm.S
1 /* SPDX-License-Identifier: GPL-2.0 */
2 #include <linux/linkage.h>
3 #include <asm/visasm.h>
4
5 #include "opcodes.h"
6
7         .align  32
8 ENTRY(des_sparc64_key_expand)
9         /* %o0=input_key, %o1=output_key */
10         VISEntryHalf
11         ld      [%o0 + 0x00], %f0
12         ld      [%o0 + 0x04], %f1
13         DES_KEXPAND(0, 0, 0)
14         DES_KEXPAND(0, 1, 2)
15         DES_KEXPAND(2, 3, 6)
16         DES_KEXPAND(2, 2, 4)
17         DES_KEXPAND(6, 3, 10)
18         DES_KEXPAND(6, 2, 8)
19         DES_KEXPAND(10, 3, 14)
20         DES_KEXPAND(10, 2, 12)
21         DES_KEXPAND(14, 1, 16)
22         DES_KEXPAND(16, 3, 20)
23         DES_KEXPAND(16, 2, 18)
24         DES_KEXPAND(20, 3, 24)
25         DES_KEXPAND(20, 2, 22)
26         DES_KEXPAND(24, 3, 28)
27         DES_KEXPAND(24, 2, 26)
28         DES_KEXPAND(28, 1, 30)
29         std     %f0, [%o1 + 0x00]
30         std     %f2, [%o1 + 0x08]
31         std     %f4, [%o1 + 0x10]
32         std     %f6, [%o1 + 0x18]
33         std     %f8, [%o1 + 0x20]
34         std     %f10, [%o1 + 0x28]
35         std     %f12, [%o1 + 0x30]
36         std     %f14, [%o1 + 0x38]
37         std     %f16, [%o1 + 0x40]
38         std     %f18, [%o1 + 0x48]
39         std     %f20, [%o1 + 0x50]
40         std     %f22, [%o1 + 0x58]
41         std     %f24, [%o1 + 0x60]
42         std     %f26, [%o1 + 0x68]
43         std     %f28, [%o1 + 0x70]
44         std     %f30, [%o1 + 0x78]
45         retl
46          VISExitHalf
47 ENDPROC(des_sparc64_key_expand)
48
49         .align  32
50 ENTRY(des_sparc64_crypt)
51         /* %o0=key, %o1=input, %o2=output */
52         VISEntry
53         ldd     [%o1 + 0x00], %f32
54         ldd     [%o0 + 0x00], %f0
55         ldd     [%o0 + 0x08], %f2
56         ldd     [%o0 + 0x10], %f4
57         ldd     [%o0 + 0x18], %f6
58         ldd     [%o0 + 0x20], %f8
59         ldd     [%o0 + 0x28], %f10
60         ldd     [%o0 + 0x30], %f12
61         ldd     [%o0 + 0x38], %f14
62         ldd     [%o0 + 0x40], %f16
63         ldd     [%o0 + 0x48], %f18
64         ldd     [%o0 + 0x50], %f20
65         ldd     [%o0 + 0x58], %f22
66         ldd     [%o0 + 0x60], %f24
67         ldd     [%o0 + 0x68], %f26
68         ldd     [%o0 + 0x70], %f28
69         ldd     [%o0 + 0x78], %f30
70         DES_IP(32, 32)
71         DES_ROUND(0, 2, 32, 32)
72         DES_ROUND(4, 6, 32, 32)
73         DES_ROUND(8, 10, 32, 32)
74         DES_ROUND(12, 14, 32, 32)
75         DES_ROUND(16, 18, 32, 32)
76         DES_ROUND(20, 22, 32, 32)
77         DES_ROUND(24, 26, 32, 32)
78         DES_ROUND(28, 30, 32, 32)
79         DES_IIP(32, 32)
80         std     %f32, [%o2 + 0x00]
81         retl
82          VISExit
83 ENDPROC(des_sparc64_crypt)
84
85         .align  32
86 ENTRY(des_sparc64_load_keys)
87         /* %o0=key */
88         VISEntry
89         ldd     [%o0 + 0x00], %f0
90         ldd     [%o0 + 0x08], %f2
91         ldd     [%o0 + 0x10], %f4
92         ldd     [%o0 + 0x18], %f6
93         ldd     [%o0 + 0x20], %f8
94         ldd     [%o0 + 0x28], %f10
95         ldd     [%o0 + 0x30], %f12
96         ldd     [%o0 + 0x38], %f14
97         ldd     [%o0 + 0x40], %f16
98         ldd     [%o0 + 0x48], %f18
99         ldd     [%o0 + 0x50], %f20
100         ldd     [%o0 + 0x58], %f22
101         ldd     [%o0 + 0x60], %f24
102         ldd     [%o0 + 0x68], %f26
103         ldd     [%o0 + 0x70], %f28
104         retl
105          ldd    [%o0 + 0x78], %f30
106 ENDPROC(des_sparc64_load_keys)
107
108         .align  32
109 ENTRY(des_sparc64_ecb_crypt)
110         /* %o0=input, %o1=output, %o2=len */
111 1:      ldd     [%o0 + 0x00], %f32
112         add     %o0, 0x08, %o0
113         DES_IP(32, 32)
114         DES_ROUND(0, 2, 32, 32)
115         DES_ROUND(4, 6, 32, 32)
116         DES_ROUND(8, 10, 32, 32)
117         DES_ROUND(12, 14, 32, 32)
118         DES_ROUND(16, 18, 32, 32)
119         DES_ROUND(20, 22, 32, 32)
120         DES_ROUND(24, 26, 32, 32)
121         DES_ROUND(28, 30, 32, 32)
122         DES_IIP(32, 32)
123         std     %f32, [%o1 + 0x00]
124         subcc   %o2, 0x08, %o2
125         bne,pt  %icc, 1b
126          add    %o1, 0x08, %o1
127         retl
128          nop
129 ENDPROC(des_sparc64_ecb_crypt)
130
131         .align  32
132 ENTRY(des_sparc64_cbc_encrypt)
133         /* %o0=input, %o1=output, %o2=len, %o3=IV */
134         ldd     [%o3 + 0x00], %f32
135 1:      ldd     [%o0 + 0x00], %f34
136         fxor    %f32, %f34, %f32
137         DES_IP(32, 32)
138         DES_ROUND(0, 2, 32, 32)
139         DES_ROUND(4, 6, 32, 32)
140         DES_ROUND(8, 10, 32, 32)
141         DES_ROUND(12, 14, 32, 32)
142         DES_ROUND(16, 18, 32, 32)
143         DES_ROUND(20, 22, 32, 32)
144         DES_ROUND(24, 26, 32, 32)
145         DES_ROUND(28, 30, 32, 32)
146         DES_IIP(32, 32)
147         std     %f32, [%o1 + 0x00]
148         add     %o0, 0x08, %o0
149         subcc   %o2, 0x08, %o2
150         bne,pt  %icc, 1b
151          add    %o1, 0x08, %o1
152         retl
153          std    %f32, [%o3 + 0x00]
154 ENDPROC(des_sparc64_cbc_encrypt)
155
156         .align  32
157 ENTRY(des_sparc64_cbc_decrypt)
158         /* %o0=input, %o1=output, %o2=len, %o3=IV */
159         ldd     [%o3 + 0x00], %f34
160 1:      ldd     [%o0 + 0x00], %f36
161         DES_IP(36, 32)
162         DES_ROUND(0, 2, 32, 32)
163         DES_ROUND(4, 6, 32, 32)
164         DES_ROUND(8, 10, 32, 32)
165         DES_ROUND(12, 14, 32, 32)
166         DES_ROUND(16, 18, 32, 32)
167         DES_ROUND(20, 22, 32, 32)
168         DES_ROUND(24, 26, 32, 32)
169         DES_ROUND(28, 30, 32, 32)
170         DES_IIP(32, 32)
171         fxor    %f32, %f34, %f32
172         fsrc2   %f36, %f34
173         std     %f32, [%o1 + 0x00]
174         add     %o0, 0x08, %o0
175         subcc   %o2, 0x08, %o2
176         bne,pt  %icc, 1b
177          add    %o1, 0x08, %o1
178         retl
179          std    %f36, [%o3 + 0x00]
180 ENDPROC(des_sparc64_cbc_decrypt)
181
182         .align  32
183 ENTRY(des3_ede_sparc64_crypt)
184         /* %o0=key, %o1=input, %o2=output */
185         VISEntry
186         ldd     [%o1 + 0x00], %f32
187         ldd     [%o0 + 0x00], %f0
188         ldd     [%o0 + 0x08], %f2
189         ldd     [%o0 + 0x10], %f4
190         ldd     [%o0 + 0x18], %f6
191         ldd     [%o0 + 0x20], %f8
192         ldd     [%o0 + 0x28], %f10
193         ldd     [%o0 + 0x30], %f12
194         ldd     [%o0 + 0x38], %f14
195         ldd     [%o0 + 0x40], %f16
196         ldd     [%o0 + 0x48], %f18
197         ldd     [%o0 + 0x50], %f20
198         ldd     [%o0 + 0x58], %f22
199         ldd     [%o0 + 0x60], %f24
200         ldd     [%o0 + 0x68], %f26
201         ldd     [%o0 + 0x70], %f28
202         ldd     [%o0 + 0x78], %f30
203         DES_IP(32, 32)
204         DES_ROUND(0, 2, 32, 32)
205         ldd     [%o0 + 0x80], %f0
206         ldd     [%o0 + 0x88], %f2
207         DES_ROUND(4, 6, 32, 32)
208         ldd     [%o0 + 0x90], %f4
209         ldd     [%o0 + 0x98], %f6
210         DES_ROUND(8, 10, 32, 32)
211         ldd     [%o0 + 0xa0], %f8
212         ldd     [%o0 + 0xa8], %f10
213         DES_ROUND(12, 14, 32, 32)
214         ldd     [%o0 + 0xb0], %f12
215         ldd     [%o0 + 0xb8], %f14
216         DES_ROUND(16, 18, 32, 32)
217         ldd     [%o0 + 0xc0], %f16
218         ldd     [%o0 + 0xc8], %f18
219         DES_ROUND(20, 22, 32, 32)
220         ldd     [%o0 + 0xd0], %f20
221         ldd     [%o0 + 0xd8], %f22
222         DES_ROUND(24, 26, 32, 32)
223         ldd     [%o0 + 0xe0], %f24
224         ldd     [%o0 + 0xe8], %f26
225         DES_ROUND(28, 30, 32, 32)
226         ldd     [%o0 + 0xf0], %f28
227         ldd     [%o0 + 0xf8], %f30
228         DES_IIP(32, 32)
229         DES_IP(32, 32)
230         DES_ROUND(0, 2, 32, 32)
231         ldd     [%o0 + 0x100], %f0
232         ldd     [%o0 + 0x108], %f2
233         DES_ROUND(4, 6, 32, 32)
234         ldd     [%o0 + 0x110], %f4
235         ldd     [%o0 + 0x118], %f6
236         DES_ROUND(8, 10, 32, 32)
237         ldd     [%o0 + 0x120], %f8
238         ldd     [%o0 + 0x128], %f10
239         DES_ROUND(12, 14, 32, 32)
240         ldd     [%o0 + 0x130], %f12
241         ldd     [%o0 + 0x138], %f14
242         DES_ROUND(16, 18, 32, 32)
243         ldd     [%o0 + 0x140], %f16
244         ldd     [%o0 + 0x148], %f18
245         DES_ROUND(20, 22, 32, 32)
246         ldd     [%o0 + 0x150], %f20
247         ldd     [%o0 + 0x158], %f22
248         DES_ROUND(24, 26, 32, 32)
249         ldd     [%o0 + 0x160], %f24
250         ldd     [%o0 + 0x168], %f26
251         DES_ROUND(28, 30, 32, 32)
252         ldd     [%o0 + 0x170], %f28
253         ldd     [%o0 + 0x178], %f30
254         DES_IIP(32, 32)
255         DES_IP(32, 32)
256         DES_ROUND(0, 2, 32, 32)
257         DES_ROUND(4, 6, 32, 32)
258         DES_ROUND(8, 10, 32, 32)
259         DES_ROUND(12, 14, 32, 32)
260         DES_ROUND(16, 18, 32, 32)
261         DES_ROUND(20, 22, 32, 32)
262         DES_ROUND(24, 26, 32, 32)
263         DES_ROUND(28, 30, 32, 32)
264         DES_IIP(32, 32)
265
266         std     %f32, [%o2 + 0x00]
267         retl
268          VISExit
269 ENDPROC(des3_ede_sparc64_crypt)
270
271         .align  32
272 ENTRY(des3_ede_sparc64_load_keys)
273         /* %o0=key */
274         VISEntry
275         ldd     [%o0 + 0x00], %f0
276         ldd     [%o0 + 0x08], %f2
277         ldd     [%o0 + 0x10], %f4
278         ldd     [%o0 + 0x18], %f6
279         ldd     [%o0 + 0x20], %f8
280         ldd     [%o0 + 0x28], %f10
281         ldd     [%o0 + 0x30], %f12
282         ldd     [%o0 + 0x38], %f14
283         ldd     [%o0 + 0x40], %f16
284         ldd     [%o0 + 0x48], %f18
285         ldd     [%o0 + 0x50], %f20
286         ldd     [%o0 + 0x58], %f22
287         ldd     [%o0 + 0x60], %f24
288         ldd     [%o0 + 0x68], %f26
289         ldd     [%o0 + 0x70], %f28
290         ldd     [%o0 + 0x78], %f30
291         ldd     [%o0 + 0x80], %f32
292         ldd     [%o0 + 0x88], %f34
293         ldd     [%o0 + 0x90], %f36
294         ldd     [%o0 + 0x98], %f38
295         ldd     [%o0 + 0xa0], %f40
296         ldd     [%o0 + 0xa8], %f42
297         ldd     [%o0 + 0xb0], %f44
298         ldd     [%o0 + 0xb8], %f46
299         ldd     [%o0 + 0xc0], %f48
300         ldd     [%o0 + 0xc8], %f50
301         ldd     [%o0 + 0xd0], %f52
302         ldd     [%o0 + 0xd8], %f54
303         ldd     [%o0 + 0xe0], %f56
304         retl
305          ldd    [%o0 + 0xe8], %f58
306 ENDPROC(des3_ede_sparc64_load_keys)
307
308 #define DES3_LOOP_BODY(X) \
309         DES_IP(X, X) \
310         DES_ROUND(0, 2, X, X) \
311         DES_ROUND(4, 6, X, X) \
312         DES_ROUND(8, 10, X, X) \
313         DES_ROUND(12, 14, X, X) \
314         DES_ROUND(16, 18, X, X) \
315         ldd     [%o0 + 0xf0], %f16; \
316         ldd     [%o0 + 0xf8], %f18; \
317         DES_ROUND(20, 22, X, X) \
318         ldd     [%o0 + 0x100], %f20; \
319         ldd     [%o0 + 0x108], %f22; \
320         DES_ROUND(24, 26, X, X) \
321         ldd     [%o0 + 0x110], %f24; \
322         ldd     [%o0 + 0x118], %f26; \
323         DES_ROUND(28, 30, X, X) \
324         ldd     [%o0 + 0x120], %f28; \
325         ldd     [%o0 + 0x128], %f30; \
326         DES_IIP(X, X) \
327         DES_IP(X, X) \
328         DES_ROUND(32, 34, X, X) \
329         ldd     [%o0 + 0x130], %f0; \
330         ldd     [%o0 + 0x138], %f2; \
331         DES_ROUND(36, 38, X, X) \
332         ldd     [%o0 + 0x140], %f4; \
333         ldd     [%o0 + 0x148], %f6; \
334         DES_ROUND(40, 42, X, X) \
335         ldd     [%o0 + 0x150], %f8; \
336         ldd     [%o0 + 0x158], %f10; \
337         DES_ROUND(44, 46, X, X) \
338         ldd     [%o0 + 0x160], %f12; \
339         ldd     [%o0 + 0x168], %f14; \
340         DES_ROUND(48, 50, X, X) \
341         DES_ROUND(52, 54, X, X) \
342         DES_ROUND(56, 58, X, X) \
343         DES_ROUND(16, 18, X, X) \
344         ldd     [%o0 + 0x170], %f16; \
345         ldd     [%o0 + 0x178], %f18; \
346         DES_IIP(X, X) \
347         DES_IP(X, X) \
348         DES_ROUND(20, 22, X, X) \
349         ldd     [%o0 + 0x50], %f20; \
350         ldd     [%o0 + 0x58], %f22; \
351         DES_ROUND(24, 26, X, X) \
352         ldd     [%o0 + 0x60], %f24; \
353         ldd     [%o0 + 0x68], %f26; \
354         DES_ROUND(28, 30, X, X) \
355         ldd     [%o0 + 0x70], %f28; \
356         ldd     [%o0 + 0x78], %f30; \
357         DES_ROUND(0, 2, X, X) \
358         ldd     [%o0 + 0x00], %f0; \
359         ldd     [%o0 + 0x08], %f2; \
360         DES_ROUND(4, 6, X, X) \
361         ldd     [%o0 + 0x10], %f4; \
362         ldd     [%o0 + 0x18], %f6; \
363         DES_ROUND(8, 10, X, X) \
364         ldd     [%o0 + 0x20], %f8; \
365         ldd     [%o0 + 0x28], %f10; \
366         DES_ROUND(12, 14, X, X) \
367         ldd     [%o0 + 0x30], %f12; \
368         ldd     [%o0 + 0x38], %f14; \
369         DES_ROUND(16, 18, X, X) \
370         ldd     [%o0 + 0x40], %f16; \
371         ldd     [%o0 + 0x48], %f18; \
372         DES_IIP(X, X)
373
374         .align  32
375 ENTRY(des3_ede_sparc64_ecb_crypt)
376         /* %o0=key, %o1=input, %o2=output, %o3=len */
377 1:      ldd     [%o1 + 0x00], %f60
378         DES3_LOOP_BODY(60)
379         std     %f60, [%o2 + 0x00]
380         add     %o1, 0x08, %o1
381         subcc   %o3, 0x08, %o3
382         bne,pt  %icc, 1b
383          add    %o2, 0x08, %o2
384         retl
385          nop
386 ENDPROC(des3_ede_sparc64_ecb_crypt)
387
388         .align  32
389 ENTRY(des3_ede_sparc64_cbc_encrypt)
390         /* %o0=key, %o1=input, %o2=output, %o3=len, %o4=IV */
391         ldd     [%o4 + 0x00], %f60
392 1:      ldd     [%o1 + 0x00], %f62
393         fxor    %f60, %f62, %f60
394         DES3_LOOP_BODY(60)
395         std     %f60, [%o2 + 0x00]
396         add     %o1, 0x08, %o1
397         subcc   %o3, 0x08, %o3
398         bne,pt  %icc, 1b
399          add    %o2, 0x08, %o2
400         retl
401          std    %f60, [%o4 + 0x00]
402 ENDPROC(des3_ede_sparc64_cbc_encrypt)
403
404         .align  32
405 ENTRY(des3_ede_sparc64_cbc_decrypt)
406         /* %o0=key, %o1=input, %o2=output, %o3=len, %o4=IV */
407         ldd     [%o4 + 0x00], %f62
408 1:      ldx     [%o1 + 0x00], %g1
409         MOVXTOD_G1_F60
410         DES3_LOOP_BODY(60)
411         fxor    %f62, %f60, %f60
412         MOVXTOD_G1_F62
413         std     %f60, [%o2 + 0x00]
414         add     %o1, 0x08, %o1
415         subcc   %o3, 0x08, %o3
416         bne,pt  %icc, 1b
417          add    %o2, 0x08, %o2
418         retl
419          stx    %g1, [%o4 + 0x00]
420 ENDPROC(des3_ede_sparc64_cbc_decrypt)