arm64: dts: qcom: sm8550: add TRNG node
[linux-modified.git] / sound / soc / qcom / qdsp6 / audioreach.c
1 // SPDX-License-Identifier: GPL-2.0
2 // Copyright (c) 2020, Linaro Limited
3
4 #include <linux/kernel.h>
5 #include <linux/slab.h>
6 #include <linux/soc/qcom/apr.h>
7 #include <sound/soc.h>
8 #include <sound/soc-dai.h>
9 #include <sound/pcm.h>
10 #include <sound/pcm_params.h>
11 #include <dt-bindings/soc/qcom,gpr.h>
12 #include "q6apm.h"
13 #include "audioreach.h"
14
15 /* SubGraph Config */
16 struct apm_sub_graph_data {
17         struct apm_sub_graph_cfg sub_graph_cfg;
18         struct apm_prop_data perf_data;
19         struct apm_sg_prop_id_perf_mode perf;
20         struct apm_prop_data dir_data;
21         struct apm_sg_prop_id_direction dir;
22         struct apm_prop_data sid_data;
23         struct apm_sg_prop_id_scenario_id sid;
24
25 } __packed;
26
27 #define APM_SUB_GRAPH_CFG_NPROP 3
28
29 struct apm_sub_graph_params  {
30         struct apm_module_param_data param_data;
31         uint32_t num_sub_graphs;
32         struct apm_sub_graph_data sg_cfg[];
33 } __packed;
34
35 #define APM_SUB_GRAPH_PSIZE(p, n) ALIGN(struct_size(p, sg_cfg, n), 8)
36
37 /* container config */
38 struct apm_container_obj  {
39         struct apm_container_cfg container_cfg;
40         /* Capability ID list */
41         struct apm_prop_data cap_data;
42         uint32_t num_capability_id;
43         uint32_t capability_id;
44
45         /* Container graph Position */
46         struct apm_prop_data pos_data;
47         struct apm_cont_prop_id_graph_pos pos;
48
49         /* Container Stack size */
50         struct apm_prop_data stack_data;
51         struct apm_cont_prop_id_stack_size stack;
52
53         /* Container proc domain id */
54         struct apm_prop_data domain_data;
55         struct apm_cont_prop_id_domain domain;
56 } __packed;
57
58 struct apm_container_params  {
59         struct apm_module_param_data param_data;
60         uint32_t num_containers;
61         struct apm_container_obj cont_obj[];
62 } __packed;
63
64 #define APM_CONTAINER_PSIZE(p, n) ALIGN(struct_size(p, cont_obj, n), 8)
65
66 /* Module List config */
67 struct apm_mod_list_obj {
68         /* Modules list cfg */
69         uint32_t sub_graph_id;
70         uint32_t container_id;
71         uint32_t num_modules;
72         struct apm_module_obj mod_cfg[];
73 } __packed;
74
75 #define APM_MOD_LIST_OBJ_PSIZE(p, n) struct_size(p, mod_cfg, n)
76
77 struct apm_module_list_params {
78         struct apm_module_param_data param_data;
79         uint32_t num_modules_list;
80         /* Module list config array */
81         struct apm_mod_list_obj mod_list_obj[];
82 } __packed;
83
84
85 /* Module Properties */
86 struct apm_mod_prop_obj {
87         u32 instance_id;
88         u32 num_props;
89         struct apm_prop_data prop_data_1;
90         struct apm_module_prop_id_port_info prop_id_port;
91 } __packed;
92
93 struct apm_prop_list_params {
94         struct apm_module_param_data param_data;
95         u32 num_modules_prop_cfg;
96         struct apm_mod_prop_obj mod_prop_obj[];
97
98 } __packed;
99
100 #define APM_MOD_PROP_PSIZE(p, n) ALIGN(struct_size(p, mod_prop_obj, n), 8)
101
102 /* Module Connections */
103 struct apm_mod_conn_list_params {
104         struct apm_module_param_data param_data;
105         u32 num_connections;
106         struct apm_module_conn_obj conn_obj[];
107
108 } __packed;
109
110 #define APM_MOD_CONN_PSIZE(p, n) ALIGN(struct_size(p, conn_obj, n), 8)
111
112 struct apm_graph_open_params {
113         struct apm_cmd_header *cmd_header;
114         struct apm_sub_graph_params *sg_data;
115         struct apm_container_params *cont_data;
116         struct apm_module_list_params *mod_list_data;
117         struct apm_prop_list_params *mod_prop_data;
118         struct apm_mod_conn_list_params *mod_conn_list_data;
119 } __packed;
120
121 struct apm_pcm_module_media_fmt_cmd {
122         struct apm_module_param_data param_data;
123         struct param_id_pcm_output_format_cfg header;
124         struct payload_pcm_output_format_cfg media_cfg;
125 } __packed;
126
127 struct apm_rd_shmem_module_config_cmd {
128         struct apm_module_param_data param_data;
129         struct param_id_rd_sh_mem_cfg cfg;
130 } __packed;
131
132 struct apm_sh_module_media_fmt_cmd {
133         struct media_format header;
134         struct payload_media_fmt_pcm cfg;
135 } __packed;
136
137 #define APM_SHMEM_FMT_CFG_PSIZE(ch) ALIGN( \
138                                 sizeof(struct apm_sh_module_media_fmt_cmd) + \
139                                 ch * sizeof(uint8_t), 8)
140
141 /* num of channels as argument */
142 #define APM_PCM_MODULE_FMT_CMD_PSIZE(ch) ALIGN( \
143                                 sizeof(struct apm_pcm_module_media_fmt_cmd) + \
144                                 ch * sizeof(uint8_t), 8)
145
146 #define APM_PCM_OUT_FMT_CFG_PSIZE(p, n) ALIGN(struct_size(p, channel_mapping, n), 4)
147
148 struct apm_i2s_module_intf_cfg {
149         struct apm_module_param_data param_data;
150         struct param_id_i2s_intf_cfg cfg;
151 } __packed;
152
153 #define APM_I2S_INTF_CFG_PSIZE ALIGN(sizeof(struct apm_i2s_module_intf_cfg), 8)
154
155 struct apm_module_hw_ep_mf_cfg {
156         struct apm_module_param_data param_data;
157         struct param_id_hw_ep_mf mf;
158 } __packed;
159
160 #define APM_HW_EP_CFG_PSIZE ALIGN(sizeof(struct apm_module_hw_ep_mf_cfg), 8)
161
162 #define APM_MFC_CFG_PSIZE(p, n) ALIGN(struct_size(p, channel_mapping, n), 4)
163
164 struct apm_module_frame_size_factor_cfg {
165         struct apm_module_param_data param_data;
166         uint32_t frame_size_factor;
167 } __packed;
168
169 #define APM_FS_CFG_PSIZE ALIGN(sizeof(struct apm_module_frame_size_factor_cfg), 8)
170
171 struct apm_module_hw_ep_power_mode_cfg {
172         struct apm_module_param_data param_data;
173         struct param_id_hw_ep_power_mode_cfg power_mode;
174 } __packed;
175
176 #define APM_HW_EP_PMODE_CFG_PSIZE ALIGN(sizeof(struct apm_module_hw_ep_power_mode_cfg), 8)
177
178 struct apm_module_hw_ep_dma_data_align_cfg {
179         struct apm_module_param_data param_data;
180         struct param_id_hw_ep_dma_data_align align;
181 } __packed;
182
183 #define APM_HW_EP_DALIGN_CFG_PSIZE ALIGN(sizeof(struct apm_module_hw_ep_dma_data_align_cfg), 8)
184
185 struct apm_gain_module_cfg {
186         struct apm_module_param_data param_data;
187         struct param_id_gain_cfg gain_cfg;
188 } __packed;
189
190 #define APM_GAIN_CFG_PSIZE ALIGN(sizeof(struct apm_gain_module_cfg), 8)
191
192 struct apm_codec_dma_module_intf_cfg {
193         struct apm_module_param_data param_data;
194         struct param_id_codec_dma_intf_cfg cfg;
195 } __packed;
196
197 #define APM_CDMA_INTF_CFG_PSIZE ALIGN(sizeof(struct apm_codec_dma_module_intf_cfg), 8)
198
199 struct apm_display_port_module_intf_cfg {
200         struct apm_module_param_data param_data;
201         struct param_id_display_port_intf_cfg cfg;
202 } __packed;
203 #define APM_DP_INTF_CFG_PSIZE ALIGN(sizeof(struct apm_display_port_module_intf_cfg), 8)
204
205 static void *__audioreach_alloc_pkt(int payload_size, uint32_t opcode, uint32_t token,
206                                     uint32_t src_port, uint32_t dest_port, bool has_cmd_hdr)
207 {
208         struct gpr_pkt *pkt;
209         void *p;
210         int pkt_size = GPR_HDR_SIZE + payload_size;
211
212         if (has_cmd_hdr)
213                 pkt_size += APM_CMD_HDR_SIZE;
214
215         p = kzalloc(pkt_size, GFP_KERNEL);
216         if (!p)
217                 return ERR_PTR(-ENOMEM);
218
219         pkt = p;
220         pkt->hdr.version = GPR_PKT_VER;
221         pkt->hdr.hdr_size = GPR_PKT_HEADER_WORD_SIZE;
222         pkt->hdr.pkt_size = pkt_size;
223         pkt->hdr.dest_port = dest_port;
224         pkt->hdr.src_port = src_port;
225
226         pkt->hdr.dest_domain = GPR_DOMAIN_ID_ADSP;
227         pkt->hdr.src_domain = GPR_DOMAIN_ID_APPS;
228         pkt->hdr.token = token;
229         pkt->hdr.opcode = opcode;
230
231         if (has_cmd_hdr) {
232                 struct apm_cmd_header *cmd_header;
233
234                 p = p + GPR_HDR_SIZE;
235                 cmd_header = p;
236                 cmd_header->payload_size = payload_size;
237         }
238
239         return pkt;
240 }
241
242 void *audioreach_alloc_pkt(int payload_size, uint32_t opcode, uint32_t token,
243                            uint32_t src_port, uint32_t dest_port)
244 {
245         return __audioreach_alloc_pkt(payload_size, opcode, token, src_port, dest_port, false);
246 }
247 EXPORT_SYMBOL_GPL(audioreach_alloc_pkt);
248
249 void *audioreach_alloc_apm_pkt(int pkt_size, uint32_t opcode, uint32_t token, uint32_t src_port)
250 {
251         return __audioreach_alloc_pkt(pkt_size, opcode, token, src_port, APM_MODULE_INSTANCE_ID,
252                                       false);
253 }
254 EXPORT_SYMBOL_GPL(audioreach_alloc_apm_pkt);
255
256 void *audioreach_alloc_cmd_pkt(int payload_size, uint32_t opcode, uint32_t token,
257                                uint32_t src_port, uint32_t dest_port)
258 {
259         return __audioreach_alloc_pkt(payload_size, opcode, token, src_port, dest_port, true);
260 }
261 EXPORT_SYMBOL_GPL(audioreach_alloc_cmd_pkt);
262
263 void *audioreach_alloc_apm_cmd_pkt(int pkt_size, uint32_t opcode, uint32_t token)
264 {
265         return __audioreach_alloc_pkt(pkt_size, opcode, token, GPR_APM_MODULE_IID,
266                                        APM_MODULE_INSTANCE_ID, true);
267 }
268 EXPORT_SYMBOL_GPL(audioreach_alloc_apm_cmd_pkt);
269
270 static void apm_populate_container_config(struct apm_container_obj *cfg,
271                                           struct audioreach_container *cont)
272 {
273
274         /* Container Config */
275         cfg->container_cfg.container_id = cont->container_id;
276         cfg->container_cfg.num_prop = 4;
277
278         /* Capability list */
279         cfg->cap_data.prop_id = APM_CONTAINER_PROP_ID_CAPABILITY_LIST;
280         cfg->cap_data.prop_size = APM_CONTAINER_PROP_ID_CAPABILITY_SIZE;
281         cfg->num_capability_id = 1;
282         cfg->capability_id = cont->capability_id;
283
284         /* Graph Position */
285         cfg->pos_data.prop_id = APM_CONTAINER_PROP_ID_GRAPH_POS;
286         cfg->pos_data.prop_size = sizeof(struct apm_cont_prop_id_graph_pos);
287         cfg->pos.graph_pos = cont->graph_pos;
288
289         /* Stack size */
290         cfg->stack_data.prop_id = APM_CONTAINER_PROP_ID_STACK_SIZE;
291         cfg->stack_data.prop_size = sizeof(struct apm_cont_prop_id_stack_size);
292         cfg->stack.stack_size = cont->stack_size;
293
294         /* Proc domain */
295         cfg->domain_data.prop_id = APM_CONTAINER_PROP_ID_PROC_DOMAIN;
296         cfg->domain_data.prop_size = sizeof(struct apm_cont_prop_id_domain);
297         cfg->domain.proc_domain = cont->proc_domain;
298 }
299
300 static void apm_populate_sub_graph_config(struct apm_sub_graph_data *cfg,
301                                           struct audioreach_sub_graph *sg)
302 {
303         cfg->sub_graph_cfg.sub_graph_id = sg->sub_graph_id;
304         cfg->sub_graph_cfg.num_sub_graph_prop = APM_SUB_GRAPH_CFG_NPROP;
305
306         /* Perf Mode */
307         cfg->perf_data.prop_id = APM_SUB_GRAPH_PROP_ID_PERF_MODE;
308         cfg->perf_data.prop_size = APM_SG_PROP_ID_PERF_MODE_SIZE;
309         cfg->perf.perf_mode = sg->perf_mode;
310
311         /* Direction */
312         cfg->dir_data.prop_id = APM_SUB_GRAPH_PROP_ID_DIRECTION;
313         cfg->dir_data.prop_size = APM_SG_PROP_ID_DIR_SIZE;
314         cfg->dir.direction = sg->direction;
315
316         /* Scenario ID */
317         cfg->sid_data.prop_id = APM_SUB_GRAPH_PROP_ID_SCENARIO_ID;
318         cfg->sid_data.prop_size = APM_SG_PROP_ID_SID_SIZE;
319         cfg->sid.scenario_id = sg->scenario_id;
320 }
321
322 static void apm_populate_module_prop_obj(struct apm_mod_prop_obj *obj,
323                                          struct audioreach_module *module)
324 {
325
326         obj->instance_id = module->instance_id;
327         obj->num_props = 1;
328         obj->prop_data_1.prop_id = APM_MODULE_PROP_ID_PORT_INFO;
329         obj->prop_data_1.prop_size = APM_MODULE_PROP_ID_PORT_INFO_SZ;
330         obj->prop_id_port.max_ip_port = module->max_ip_port;
331         obj->prop_id_port.max_op_port = module->max_op_port;
332 }
333
334 static void apm_populate_module_list_obj(struct apm_mod_list_obj *obj,
335                                          struct audioreach_container *container,
336                                          int sub_graph_id)
337 {
338         struct audioreach_module *module;
339         int i;
340
341         obj->sub_graph_id = sub_graph_id;
342         obj->container_id = container->container_id;
343         obj->num_modules = container->num_modules;
344         i = 0;
345         list_for_each_entry(module, &container->modules_list, node) {
346                 obj->mod_cfg[i].module_id = module->module_id;
347                 obj->mod_cfg[i].instance_id = module->instance_id;
348                 i++;
349         }
350 }
351
352 static void audioreach_populate_graph(struct q6apm *apm, struct audioreach_graph_info *info,
353                                       struct apm_graph_open_params *open,
354                                       struct list_head *sg_list,
355                                       int num_sub_graphs)
356 {
357         struct apm_mod_conn_list_params *mc_data = open->mod_conn_list_data;
358         struct apm_module_list_params *ml_data = open->mod_list_data;
359         struct apm_prop_list_params *mp_data = open->mod_prop_data;
360         struct apm_container_params *c_data = open->cont_data;
361         struct apm_sub_graph_params *sg_data = open->sg_data;
362         int ncontainer = 0, nmodule = 0, nconn = 0;
363         struct apm_mod_prop_obj *module_prop_obj;
364         struct audioreach_container *container;
365         struct apm_module_conn_obj *conn_obj;
366         struct audioreach_module *module;
367         struct audioreach_sub_graph *sg;
368         struct apm_container_obj *cobj;
369         struct apm_mod_list_obj *mlobj;
370         int i = 0;
371
372         mlobj = &ml_data->mod_list_obj[0];
373
374
375         if (info->dst_mod_inst_id && info->src_mod_inst_id) {
376                 conn_obj = &mc_data->conn_obj[nconn];
377                 conn_obj->src_mod_inst_id = info->src_mod_inst_id;
378                 conn_obj->src_mod_op_port_id = info->src_mod_op_port_id;
379                 conn_obj->dst_mod_inst_id = info->dst_mod_inst_id;
380                 conn_obj->dst_mod_ip_port_id = info->dst_mod_ip_port_id;
381                 nconn++;
382         }
383
384         list_for_each_entry(sg, sg_list, node) {
385                 struct apm_sub_graph_data *sg_cfg = &sg_data->sg_cfg[i++];
386
387                 apm_populate_sub_graph_config(sg_cfg, sg);
388
389                 list_for_each_entry(container, &sg->container_list, node) {
390                         cobj = &c_data->cont_obj[ncontainer];
391
392                         apm_populate_container_config(cobj, container);
393                         apm_populate_module_list_obj(mlobj, container, sg->sub_graph_id);
394
395                         list_for_each_entry(module, &container->modules_list, node) {
396                                 int pn;
397
398                                 module_prop_obj = &mp_data->mod_prop_obj[nmodule++];
399                                 apm_populate_module_prop_obj(module_prop_obj, module);
400
401                                 if (!module->max_op_port)
402                                         continue;
403
404                                 for (pn = 0; pn < module->max_op_port; pn++) {
405                                         if (module->dst_mod_inst_id[pn]) {
406                                                 conn_obj = &mc_data->conn_obj[nconn];
407                                                 conn_obj->src_mod_inst_id = module->instance_id;
408                                                 conn_obj->src_mod_op_port_id =
409                                                                 module->src_mod_op_port_id[pn];
410                                                 conn_obj->dst_mod_inst_id =
411                                                                 module->dst_mod_inst_id[pn];
412                                                 conn_obj->dst_mod_ip_port_id =
413                                                                 module->dst_mod_ip_port_id[pn];
414                                                 nconn++;
415                                         }
416                                 }
417                         }
418                         mlobj = (void *) mlobj + APM_MOD_LIST_OBJ_PSIZE(mlobj,
419                                                                         container->num_modules);
420
421                         ncontainer++;
422                 }
423         }
424 }
425
426 void *audioreach_alloc_graph_pkt(struct q6apm *apm, struct audioreach_graph_info *info)
427 {
428         int payload_size, sg_sz, cont_sz, ml_sz, mp_sz, mc_sz;
429         struct apm_module_param_data  *param_data;
430         struct apm_container_params *cont_params;
431         struct audioreach_container *container;
432         struct apm_sub_graph_params *sg_params;
433         struct apm_mod_conn_list_params *mcon;
434         struct apm_graph_open_params params;
435         struct apm_prop_list_params *mprop;
436         struct audioreach_module *module;
437         struct audioreach_sub_graph *sgs;
438         struct apm_mod_list_obj *mlobj;
439         struct list_head *sg_list;
440         int num_connections = 0;
441         int num_containers = 0;
442         int num_sub_graphs = 0;
443         int num_modules = 0;
444         int num_modules_list;
445         struct gpr_pkt *pkt;
446         void *p;
447
448         sg_list = &info->sg_list;
449         ml_sz = 0;
450
451         /* add FE-BE connections */
452         if (info->dst_mod_inst_id && info->src_mod_inst_id)
453                 num_connections++;
454
455         list_for_each_entry(sgs, sg_list, node) {
456                 num_sub_graphs++;
457                 list_for_each_entry(container, &sgs->container_list, node) {
458                         num_containers++;
459                         num_modules += container->num_modules;
460                         ml_sz = ml_sz + sizeof(struct apm_module_list_params) +
461                                 APM_MOD_LIST_OBJ_PSIZE(mlobj, container->num_modules);
462
463                         list_for_each_entry(module, &container->modules_list, node) {
464                                 num_connections += module->num_connections;
465                         }
466                 }
467         }
468
469         num_modules_list = num_containers;
470         sg_sz = APM_SUB_GRAPH_PSIZE(sg_params, num_sub_graphs);
471         cont_sz = APM_CONTAINER_PSIZE(cont_params, num_containers);
472
473         ml_sz = ALIGN(ml_sz, 8);
474
475         mp_sz = APM_MOD_PROP_PSIZE(mprop, num_modules);
476         mc_sz = APM_MOD_CONN_PSIZE(mcon, num_connections);
477
478         payload_size = sg_sz + cont_sz + ml_sz + mp_sz + mc_sz;
479         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_GRAPH_OPEN, 0);
480         if (IS_ERR(pkt))
481                 return pkt;
482
483         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
484
485         /* SubGraph */
486         params.sg_data = p;
487         param_data = &params.sg_data->param_data;
488         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
489         param_data->param_id = APM_PARAM_ID_SUB_GRAPH_CONFIG;
490         param_data->param_size = sg_sz - APM_MODULE_PARAM_DATA_SIZE;
491         params.sg_data->num_sub_graphs = num_sub_graphs;
492         p += sg_sz;
493
494         /* Container */
495         params.cont_data = p;
496         param_data = &params.cont_data->param_data;
497         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
498         param_data->param_id = APM_PARAM_ID_CONTAINER_CONFIG;
499         param_data->param_size = cont_sz - APM_MODULE_PARAM_DATA_SIZE;
500         params.cont_data->num_containers = num_containers;
501         p += cont_sz;
502
503         /* Module List*/
504         params.mod_list_data = p;
505         param_data = &params.mod_list_data->param_data;
506         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
507         param_data->param_id = APM_PARAM_ID_MODULE_LIST;
508         param_data->param_size = ml_sz - APM_MODULE_PARAM_DATA_SIZE;
509         params.mod_list_data->num_modules_list = num_modules_list;
510         p += ml_sz;
511
512         /* Module Properties */
513         params.mod_prop_data = p;
514         param_data = &params.mod_prop_data->param_data;
515         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
516         param_data->param_id = APM_PARAM_ID_MODULE_PROP;
517         param_data->param_size = mp_sz - APM_MODULE_PARAM_DATA_SIZE;
518         params.mod_prop_data->num_modules_prop_cfg = num_modules;
519         p += mp_sz;
520
521         /* Module Connections */
522         params.mod_conn_list_data = p;
523         param_data = &params.mod_conn_list_data->param_data;
524         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
525         param_data->param_id = APM_PARAM_ID_MODULE_CONN;
526         param_data->param_size = mc_sz - APM_MODULE_PARAM_DATA_SIZE;
527         params.mod_conn_list_data->num_connections = num_connections;
528         p += mc_sz;
529
530         audioreach_populate_graph(apm, info, &params, sg_list, num_sub_graphs);
531
532         return pkt;
533 }
534 EXPORT_SYMBOL_GPL(audioreach_alloc_graph_pkt);
535
536 int audioreach_send_cmd_sync(struct device *dev, gpr_device_t *gdev,
537                              struct gpr_ibasic_rsp_result_t *result, struct mutex *cmd_lock,
538                              gpr_port_t *port, wait_queue_head_t *cmd_wait,
539                              struct gpr_pkt *pkt, uint32_t rsp_opcode)
540 {
541
542         struct gpr_hdr *hdr = &pkt->hdr;
543         int rc;
544
545         mutex_lock(cmd_lock);
546         result->opcode = 0;
547         result->status = 0;
548
549         if (port)
550                 rc = gpr_send_port_pkt(port, pkt);
551         else if (gdev)
552                 rc = gpr_send_pkt(gdev, pkt);
553         else
554                 rc = -EINVAL;
555
556         if (rc < 0)
557                 goto err;
558
559         if (rsp_opcode)
560                 rc = wait_event_timeout(*cmd_wait, (result->opcode == hdr->opcode) ||
561                                         (result->opcode == rsp_opcode), 5 * HZ);
562         else
563                 rc = wait_event_timeout(*cmd_wait, (result->opcode == hdr->opcode), 5 * HZ);
564
565         if (!rc) {
566                 dev_err(dev, "CMD timeout for [%x] opcode\n", hdr->opcode);
567                 rc = -ETIMEDOUT;
568         } else if (result->status > 0) {
569                 dev_err(dev, "DSP returned error[%x] %x\n", hdr->opcode, result->status);
570                 rc = -EINVAL;
571         } else {
572                 /* DSP successfully finished the command */
573                 rc = 0;
574         }
575
576 err:
577         mutex_unlock(cmd_lock);
578         return rc;
579 }
580 EXPORT_SYMBOL_GPL(audioreach_send_cmd_sync);
581
582 int audioreach_graph_send_cmd_sync(struct q6apm_graph *graph, struct gpr_pkt *pkt,
583                                    uint32_t rsp_opcode)
584 {
585
586         return audioreach_send_cmd_sync(graph->dev, NULL,  &graph->result, &graph->lock,
587                                         graph->port, &graph->cmd_wait, pkt, rsp_opcode);
588 }
589 EXPORT_SYMBOL_GPL(audioreach_graph_send_cmd_sync);
590
591 static int audioreach_display_port_set_media_format(struct q6apm_graph *graph,
592                                                     struct audioreach_module *module,
593                                                     struct audioreach_module_config *cfg)
594 {
595         struct apm_display_port_module_intf_cfg *intf_cfg;
596         struct apm_module_frame_size_factor_cfg *fs_cfg;
597         struct apm_module_param_data *param_data;
598         struct apm_module_hw_ep_mf_cfg *hw_cfg;
599         int ic_sz, ep_sz, fs_sz, dl_sz;
600         int rc, payload_size;
601         struct gpr_pkt *pkt;
602         void *p;
603
604         ic_sz = APM_DP_INTF_CFG_PSIZE;
605         ep_sz = APM_HW_EP_CFG_PSIZE;
606         fs_sz = APM_FS_CFG_PSIZE;
607         dl_sz = 0;
608
609         payload_size = ic_sz + ep_sz + fs_sz + dl_sz;
610
611         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
612         if (IS_ERR(pkt))
613                 return PTR_ERR(pkt);
614
615         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
616
617         hw_cfg = p;
618         param_data = &hw_cfg->param_data;
619         param_data->module_instance_id = module->instance_id;
620         param_data->error_code = 0;
621         param_data->param_id = PARAM_ID_HW_EP_MF_CFG;
622         param_data->param_size = ep_sz - APM_MODULE_PARAM_DATA_SIZE;
623
624         hw_cfg->mf.sample_rate = cfg->sample_rate;
625         hw_cfg->mf.bit_width = cfg->bit_width;
626         hw_cfg->mf.num_channels = cfg->num_channels;
627         hw_cfg->mf.data_format = module->data_format;
628         p += ep_sz;
629
630         fs_cfg = p;
631         param_data = &fs_cfg->param_data;
632         param_data->module_instance_id = module->instance_id;
633         param_data->error_code = 0;
634         param_data->param_id = PARAM_ID_HW_EP_FRAME_SIZE_FACTOR;
635         param_data->param_size = fs_sz - APM_MODULE_PARAM_DATA_SIZE;
636         fs_cfg->frame_size_factor = 1;
637         p += fs_sz;
638
639         intf_cfg = p;
640         param_data = &intf_cfg->param_data;
641         param_data->module_instance_id = module->instance_id;
642         param_data->error_code = 0;
643         param_data->param_id = PARAM_ID_DISPLAY_PORT_INTF_CFG;
644         param_data->param_size = ic_sz - APM_MODULE_PARAM_DATA_SIZE;
645
646         intf_cfg->cfg.channel_allocation = cfg->channel_allocation;
647         intf_cfg->cfg.mst_idx = 0;
648         intf_cfg->cfg.dptx_idx = cfg->dp_idx;
649
650         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
651
652         kfree(pkt);
653
654         return rc;
655 }
656
657 /* LPASS Codec DMA port Module Media Format Setup */
658 static int audioreach_codec_dma_set_media_format(struct q6apm_graph *graph,
659                                                  struct audioreach_module *module,
660                                                  struct audioreach_module_config *cfg)
661 {
662         struct apm_codec_dma_module_intf_cfg *intf_cfg;
663         struct apm_module_frame_size_factor_cfg *fs_cfg;
664         struct apm_module_hw_ep_power_mode_cfg *pm_cfg;
665         struct apm_module_param_data *param_data;
666         struct apm_module_hw_ep_mf_cfg *hw_cfg;
667         int ic_sz, ep_sz, fs_sz, pm_sz, dl_sz;
668         int rc, payload_size;
669         struct gpr_pkt *pkt;
670         void *p;
671
672         ic_sz = APM_CDMA_INTF_CFG_PSIZE;
673         ep_sz = APM_HW_EP_CFG_PSIZE;
674         fs_sz = APM_FS_CFG_PSIZE;
675         pm_sz = APM_HW_EP_PMODE_CFG_PSIZE;
676         dl_sz = 0;
677
678         payload_size = ic_sz + ep_sz + fs_sz + pm_sz + dl_sz;
679
680         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
681         if (IS_ERR(pkt))
682                 return PTR_ERR(pkt);
683
684         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
685
686         hw_cfg = p;
687         param_data = &hw_cfg->param_data;
688         param_data->module_instance_id = module->instance_id;
689         param_data->error_code = 0;
690         param_data->param_id = PARAM_ID_HW_EP_MF_CFG;
691         param_data->param_size = ep_sz - APM_MODULE_PARAM_DATA_SIZE;
692
693         hw_cfg->mf.sample_rate = cfg->sample_rate;
694         hw_cfg->mf.bit_width = cfg->bit_width;
695         hw_cfg->mf.num_channels = cfg->num_channels;
696         hw_cfg->mf.data_format = module->data_format;
697         p += ep_sz;
698
699         fs_cfg = p;
700         param_data = &fs_cfg->param_data;
701         param_data->module_instance_id = module->instance_id;
702         param_data->error_code = 0;
703         param_data->param_id = PARAM_ID_HW_EP_FRAME_SIZE_FACTOR;
704         param_data->param_size = fs_sz - APM_MODULE_PARAM_DATA_SIZE;
705         fs_cfg->frame_size_factor = 1;
706         p += fs_sz;
707
708         intf_cfg = p;
709         param_data = &intf_cfg->param_data;
710         param_data->module_instance_id = module->instance_id;
711         param_data->error_code = 0;
712         param_data->param_id = PARAM_ID_CODEC_DMA_INTF_CFG;
713         param_data->param_size = ic_sz - APM_MODULE_PARAM_DATA_SIZE;
714
715         intf_cfg->cfg.lpaif_type = module->hw_interface_type;
716         intf_cfg->cfg.intf_index = module->hw_interface_idx;
717         intf_cfg->cfg.active_channels_mask = (1 << cfg->num_channels) - 1;
718         p += ic_sz;
719
720         pm_cfg = p;
721         param_data = &pm_cfg->param_data;
722         param_data->module_instance_id = module->instance_id;
723         param_data->error_code = 0;
724         param_data->param_id = PARAM_ID_HW_EP_POWER_MODE_CFG;
725         param_data->param_size = pm_sz - APM_MODULE_PARAM_DATA_SIZE;
726         pm_cfg->power_mode.power_mode = 0;
727
728         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
729
730         kfree(pkt);
731
732         return rc;
733 }
734
735 int audioreach_send_u32_param(struct q6apm_graph *graph, struct audioreach_module *module,
736                               uint32_t param_id, uint32_t param_val)
737 {
738         struct apm_module_param_data *param_data;
739         struct gpr_pkt *pkt;
740         uint32_t *param;
741         int rc, payload_size;
742         void *p;
743
744         payload_size = sizeof(uint32_t) + APM_MODULE_PARAM_DATA_SIZE;
745         p = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
746         if (IS_ERR(p))
747                 return -ENOMEM;
748
749         pkt = p;
750         p = p + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
751
752         param_data = p;
753         param_data->module_instance_id = module->instance_id;
754         param_data->error_code = 0;
755         param_data->param_id = param_id;
756         param_data->param_size = sizeof(uint32_t);
757
758         p = p + APM_MODULE_PARAM_DATA_SIZE;
759         param = p;
760         *param = param_val;
761
762         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
763
764         kfree(pkt);
765
766         return rc;
767 }
768 EXPORT_SYMBOL_GPL(audioreach_send_u32_param);
769
770 static int audioreach_sal_limiter_enable(struct q6apm_graph *graph,
771                                          struct audioreach_module *module, bool enable)
772 {
773         return audioreach_send_u32_param(graph, module, PARAM_ID_SAL_LIMITER_ENABLE, enable);
774 }
775
776 static int audioreach_sal_set_media_format(struct q6apm_graph *graph,
777                                            struct audioreach_module *module,
778                                            struct audioreach_module_config *cfg)
779 {
780         return audioreach_send_u32_param(graph, module, PARAM_ID_SAL_OUTPUT_CFG,  cfg->bit_width);
781 }
782
783 static int audioreach_module_enable(struct q6apm_graph *graph,
784                                     struct audioreach_module *module,
785                                     bool enable)
786 {
787         return audioreach_send_u32_param(graph, module, PARAM_ID_MODULE_ENABLE, enable);
788 }
789
790 static int audioreach_gapless_set_media_format(struct q6apm_graph *graph,
791                                                struct audioreach_module *module,
792                                                struct audioreach_module_config *cfg)
793 {
794         return audioreach_send_u32_param(graph, module, PARAM_ID_EARLY_EOS_DELAY,
795                                          EARLY_EOS_DELAY_MS);
796 }
797
798 static int audioreach_mfc_set_media_format(struct q6apm_graph *graph,
799                                            struct audioreach_module *module,
800                                            struct audioreach_module_config *cfg)
801 {
802         struct apm_module_param_data *param_data;
803         struct param_id_mfc_media_format *media_format;
804         uint32_t num_channels = cfg->num_channels;
805         int payload_size;
806         struct gpr_pkt *pkt;
807         int rc;
808         void *p;
809
810         payload_size = APM_MFC_CFG_PSIZE(media_format, num_channels) +
811                 APM_MODULE_PARAM_DATA_SIZE;
812
813         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
814         if (IS_ERR(pkt))
815                 return PTR_ERR(pkt);
816
817         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
818
819         param_data = p;
820         param_data->module_instance_id = module->instance_id;
821         param_data->error_code = 0;
822         param_data->param_id = PARAM_ID_MFC_OUTPUT_MEDIA_FORMAT;
823         param_data->param_size = APM_MFC_CFG_PSIZE(media_format, num_channels);
824         p = p + APM_MODULE_PARAM_DATA_SIZE;
825         media_format = p;
826
827         media_format->sample_rate = cfg->sample_rate;
828         media_format->bit_width = cfg->bit_width;
829         media_format->num_channels = cfg->num_channels;
830
831         if (num_channels == 1) {
832                 media_format->channel_mapping[0] = PCM_CHANNEL_L;
833         } else if (num_channels == 2) {
834                 media_format->channel_mapping[0] = PCM_CHANNEL_L;
835                 media_format->channel_mapping[1] = PCM_CHANNEL_R;
836         }
837
838         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
839
840         kfree(pkt);
841
842         return rc;
843 }
844
845 static int audioreach_set_compr_media_format(struct media_format *media_fmt_hdr,
846                                              void *p, struct audioreach_module_config *mcfg)
847 {
848         struct payload_media_fmt_aac_t *aac_cfg;
849         struct payload_media_fmt_pcm *mp3_cfg;
850         struct payload_media_fmt_flac_t *flac_cfg;
851
852         switch (mcfg->fmt) {
853         case SND_AUDIOCODEC_MP3:
854                 media_fmt_hdr->data_format = DATA_FORMAT_RAW_COMPRESSED;
855                 media_fmt_hdr->fmt_id = MEDIA_FMT_ID_MP3;
856                 media_fmt_hdr->payload_size = 0;
857                 p = p + sizeof(*media_fmt_hdr);
858                 mp3_cfg = p;
859                 mp3_cfg->sample_rate = mcfg->sample_rate;
860                 mp3_cfg->bit_width = mcfg->bit_width;
861                 mp3_cfg->alignment = PCM_LSB_ALIGNED;
862                 mp3_cfg->bits_per_sample = mcfg->bit_width;
863                 mp3_cfg->q_factor = mcfg->bit_width - 1;
864                 mp3_cfg->endianness = PCM_LITTLE_ENDIAN;
865                 mp3_cfg->num_channels = mcfg->num_channels;
866
867                 if (mcfg->num_channels == 1) {
868                         mp3_cfg->channel_mapping[0] =  PCM_CHANNEL_L;
869                 } else if (mcfg->num_channels == 2) {
870                         mp3_cfg->channel_mapping[0] =  PCM_CHANNEL_L;
871                         mp3_cfg->channel_mapping[1] =  PCM_CHANNEL_R;
872                 }
873                 break;
874         case SND_AUDIOCODEC_AAC:
875                 media_fmt_hdr->data_format = DATA_FORMAT_RAW_COMPRESSED;
876                 media_fmt_hdr->fmt_id = MEDIA_FMT_ID_AAC;
877                 media_fmt_hdr->payload_size = sizeof(struct payload_media_fmt_aac_t);
878                 p = p + sizeof(*media_fmt_hdr);
879                 aac_cfg = p;
880                 aac_cfg->aac_fmt_flag = 0;
881                 aac_cfg->audio_obj_type = 5;
882                 aac_cfg->num_channels = mcfg->num_channels;
883                 aac_cfg->total_size_of_PCE_bits = 0;
884                 aac_cfg->sample_rate = mcfg->sample_rate;
885                 break;
886         case SND_AUDIOCODEC_FLAC:
887                 media_fmt_hdr->data_format = DATA_FORMAT_RAW_COMPRESSED;
888                 media_fmt_hdr->fmt_id = MEDIA_FMT_ID_FLAC;
889                 media_fmt_hdr->payload_size = sizeof(struct payload_media_fmt_flac_t);
890                 p = p + sizeof(*media_fmt_hdr);
891                 flac_cfg = p;
892                 flac_cfg->sample_size = mcfg->codec.options.flac_d.sample_size;
893                 flac_cfg->num_channels = mcfg->num_channels;
894                 flac_cfg->min_blk_size = mcfg->codec.options.flac_d.min_blk_size;
895                 flac_cfg->max_blk_size = mcfg->codec.options.flac_d.max_blk_size;
896                 flac_cfg->sample_rate = mcfg->sample_rate;
897                 flac_cfg->min_frame_size = mcfg->codec.options.flac_d.min_frame_size;
898                 flac_cfg->max_frame_size = mcfg->codec.options.flac_d.max_frame_size;
899                 break;
900         default:
901                 return -EINVAL;
902         }
903
904         return 0;
905 }
906
907 int audioreach_compr_set_param(struct q6apm_graph *graph, struct audioreach_module_config *mcfg)
908 {
909         struct media_format *header;
910         struct gpr_pkt *pkt;
911         int iid, payload_size, rc;
912         void *p;
913
914         payload_size = sizeof(struct apm_sh_module_media_fmt_cmd);
915
916         iid = q6apm_graph_get_rx_shmem_module_iid(graph);
917         pkt = audioreach_alloc_cmd_pkt(payload_size, DATA_CMD_WR_SH_MEM_EP_MEDIA_FORMAT,
918                         0, graph->port->id, iid);
919
920         if (IS_ERR(pkt))
921                 return -ENOMEM;
922
923         p = (void *)pkt + GPR_HDR_SIZE;
924         header = p;
925         rc = audioreach_set_compr_media_format(header, p, mcfg);
926         if (rc) {
927                 kfree(pkt);
928                 return rc;
929         }
930
931         rc = gpr_send_port_pkt(graph->port, pkt);
932         kfree(pkt);
933
934         return rc;
935 }
936 EXPORT_SYMBOL_GPL(audioreach_compr_set_param);
937
938 static int audioreach_i2s_set_media_format(struct q6apm_graph *graph,
939                                            struct audioreach_module *module,
940                                            struct audioreach_module_config *cfg)
941 {
942         struct apm_module_frame_size_factor_cfg *fs_cfg;
943         struct apm_module_param_data *param_data;
944         struct apm_i2s_module_intf_cfg *intf_cfg;
945         struct apm_module_hw_ep_mf_cfg *hw_cfg;
946         int ic_sz, ep_sz, fs_sz;
947         int rc, payload_size;
948         struct gpr_pkt *pkt;
949         void *p;
950
951         ic_sz = APM_I2S_INTF_CFG_PSIZE;
952         ep_sz = APM_HW_EP_CFG_PSIZE;
953         fs_sz = APM_FS_CFG_PSIZE;
954
955         payload_size = ic_sz + ep_sz + fs_sz;
956
957         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
958         if (IS_ERR(pkt))
959                 return PTR_ERR(pkt);
960
961         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
962         intf_cfg = p;
963
964         param_data = &intf_cfg->param_data;
965         param_data->module_instance_id = module->instance_id;
966         param_data->error_code = 0;
967         param_data->param_id = PARAM_ID_I2S_INTF_CFG;
968         param_data->param_size = ic_sz - APM_MODULE_PARAM_DATA_SIZE;
969
970         intf_cfg->cfg.intf_idx = module->hw_interface_idx;
971         intf_cfg->cfg.sd_line_idx = module->sd_line_idx;
972
973         switch (cfg->fmt & SND_SOC_DAIFMT_CLOCK_PROVIDER_MASK) {
974         case SND_SOC_DAIFMT_BP_FP:
975                 intf_cfg->cfg.ws_src = CONFIG_I2S_WS_SRC_INTERNAL;
976                 break;
977         case SND_SOC_DAIFMT_BC_FC:
978                 /* CPU is slave */
979                 intf_cfg->cfg.ws_src = CONFIG_I2S_WS_SRC_EXTERNAL;
980                 break;
981         default:
982                 break;
983         }
984
985         p += ic_sz;
986         hw_cfg = p;
987         param_data = &hw_cfg->param_data;
988         param_data->module_instance_id = module->instance_id;
989         param_data->error_code = 0;
990         param_data->param_id = PARAM_ID_HW_EP_MF_CFG;
991         param_data->param_size = ep_sz - APM_MODULE_PARAM_DATA_SIZE;
992
993         hw_cfg->mf.sample_rate = cfg->sample_rate;
994         hw_cfg->mf.bit_width = cfg->bit_width;
995         hw_cfg->mf.num_channels = cfg->num_channels;
996         hw_cfg->mf.data_format = module->data_format;
997
998         p += ep_sz;
999         fs_cfg = p;
1000         param_data = &fs_cfg->param_data;
1001         param_data->module_instance_id = module->instance_id;
1002         param_data->error_code = 0;
1003         param_data->param_id = PARAM_ID_HW_EP_FRAME_SIZE_FACTOR;
1004         param_data->param_size = fs_sz - APM_MODULE_PARAM_DATA_SIZE;
1005         fs_cfg->frame_size_factor = 1;
1006
1007         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
1008
1009         kfree(pkt);
1010
1011         return rc;
1012 }
1013
1014 static int audioreach_logging_set_media_format(struct q6apm_graph *graph,
1015                                                struct audioreach_module *module)
1016 {
1017         struct apm_module_param_data *param_data;
1018         struct data_logging_config *cfg;
1019         int rc, payload_size;
1020         struct gpr_pkt *pkt;
1021         void *p;
1022
1023         payload_size = sizeof(*cfg) + APM_MODULE_PARAM_DATA_SIZE;
1024         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
1025         if (IS_ERR(pkt))
1026                 return PTR_ERR(pkt);
1027
1028         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1029
1030         param_data = p;
1031         param_data->module_instance_id = module->instance_id;
1032         param_data->error_code = 0;
1033         param_data->param_id = PARAM_ID_DATA_LOGGING_CONFIG;
1034         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1035
1036         p = p + APM_MODULE_PARAM_DATA_SIZE;
1037         cfg = p;
1038         cfg->log_code = module->log_code;
1039         cfg->log_tap_point_id = module->log_tap_point_id;
1040         cfg->mode = module->log_mode;
1041
1042         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
1043
1044         kfree(pkt);
1045
1046         return rc;
1047 }
1048
1049 static int audioreach_pcm_set_media_format(struct q6apm_graph *graph,
1050                                            struct audioreach_module *module,
1051                                            struct audioreach_module_config *mcfg)
1052 {
1053         struct payload_pcm_output_format_cfg *media_cfg;
1054         uint32_t num_channels = mcfg->num_channels;
1055         struct apm_pcm_module_media_fmt_cmd *cfg;
1056         struct apm_module_param_data *param_data;
1057         int rc, payload_size;
1058         struct gpr_pkt *pkt;
1059
1060         if (num_channels > 2) {
1061                 dev_err(graph->dev, "Error: Invalid channels (%d)!\n", num_channels);
1062                 return -EINVAL;
1063         }
1064
1065         payload_size = APM_PCM_MODULE_FMT_CMD_PSIZE(num_channels);
1066
1067         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
1068         if (IS_ERR(pkt))
1069                 return PTR_ERR(pkt);
1070
1071         cfg = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1072
1073         param_data = &cfg->param_data;
1074         param_data->module_instance_id = module->instance_id;
1075         param_data->error_code = 0;
1076         param_data->param_id = PARAM_ID_PCM_OUTPUT_FORMAT_CFG;
1077         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1078
1079         cfg->header.data_format = DATA_FORMAT_FIXED_POINT;
1080         cfg->header.fmt_id = MEDIA_FMT_ID_PCM;
1081         cfg->header.payload_size = APM_PCM_OUT_FMT_CFG_PSIZE(media_cfg, num_channels);
1082
1083         media_cfg = &cfg->media_cfg;
1084         media_cfg->alignment = PCM_LSB_ALIGNED;
1085         media_cfg->bit_width = mcfg->bit_width;
1086         media_cfg->endianness = PCM_LITTLE_ENDIAN;
1087         media_cfg->interleaved = module->interleave_type;
1088         media_cfg->num_channels = mcfg->num_channels;
1089         media_cfg->q_factor = mcfg->bit_width - 1;
1090         media_cfg->bits_per_sample = mcfg->bit_width;
1091
1092         if (num_channels == 1) {
1093                 media_cfg->channel_mapping[0] = PCM_CHANNEL_L;
1094         } else if (num_channels == 2) {
1095                 media_cfg->channel_mapping[0] = PCM_CHANNEL_L;
1096                 media_cfg->channel_mapping[1] = PCM_CHANNEL_R;
1097
1098         }
1099
1100         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
1101
1102         kfree(pkt);
1103
1104         return rc;
1105 }
1106
1107 static int audioreach_shmem_set_media_format(struct q6apm_graph *graph,
1108                                              struct audioreach_module *module,
1109                                              struct audioreach_module_config *mcfg)
1110 {
1111         uint32_t num_channels = mcfg->num_channels;
1112         struct apm_module_param_data *param_data;
1113         struct payload_media_fmt_pcm *cfg;
1114         struct media_format *header;
1115         int rc, payload_size;
1116         struct gpr_pkt *pkt;
1117         void *p;
1118
1119         if (num_channels > 2) {
1120                 dev_err(graph->dev, "Error: Invalid channels (%d)!\n", num_channels);
1121                 return -EINVAL;
1122         }
1123
1124         payload_size = APM_SHMEM_FMT_CFG_PSIZE(num_channels) + APM_MODULE_PARAM_DATA_SIZE;
1125
1126         pkt = audioreach_alloc_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0,
1127                                      graph->port->id, module->instance_id);
1128         if (IS_ERR(pkt))
1129                 return PTR_ERR(pkt);
1130
1131         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1132
1133         param_data = p;
1134         param_data->module_instance_id = module->instance_id;
1135         param_data->error_code = 0;
1136         param_data->param_id = PARAM_ID_MEDIA_FORMAT;
1137         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1138         p = p + APM_MODULE_PARAM_DATA_SIZE;
1139
1140         header = p;
1141         if (mcfg->fmt == SND_AUDIOCODEC_PCM) {
1142                 header->data_format = DATA_FORMAT_FIXED_POINT;
1143                 header->fmt_id =  MEDIA_FMT_ID_PCM;
1144                 header->payload_size = payload_size - sizeof(*header);
1145
1146                 p = p + sizeof(*header);
1147                 cfg = p;
1148                 cfg->sample_rate = mcfg->sample_rate;
1149                 cfg->bit_width = mcfg->bit_width;
1150                 cfg->alignment = PCM_LSB_ALIGNED;
1151                 cfg->bits_per_sample = mcfg->bit_width;
1152                 cfg->q_factor = mcfg->bit_width - 1;
1153                 cfg->endianness = PCM_LITTLE_ENDIAN;
1154                 cfg->num_channels = mcfg->num_channels;
1155
1156                 if (mcfg->num_channels == 1)
1157                         cfg->channel_mapping[0] =  PCM_CHANNEL_L;
1158                 else if (num_channels == 2) {
1159                         cfg->channel_mapping[0] =  PCM_CHANNEL_L;
1160                         cfg->channel_mapping[1] =  PCM_CHANNEL_R;
1161                 }
1162         } else {
1163                 rc = audioreach_set_compr_media_format(header, p, mcfg);
1164                 if (rc) {
1165                         kfree(pkt);
1166                         return rc;
1167                 }
1168         }
1169
1170         rc = audioreach_graph_send_cmd_sync(graph, pkt, 0);
1171
1172         kfree(pkt);
1173
1174         return rc;
1175 }
1176
1177 int audioreach_gain_set_vol_ctrl(struct q6apm *apm, struct audioreach_module *module, int vol)
1178 {
1179         struct param_id_vol_ctrl_master_gain *cfg;
1180         struct apm_module_param_data *param_data;
1181         int rc, payload_size;
1182         struct gpr_pkt *pkt;
1183         void *p;
1184
1185         payload_size = sizeof(*cfg) + APM_MODULE_PARAM_DATA_SIZE;
1186         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
1187         if (IS_ERR(pkt))
1188                 return PTR_ERR(pkt);
1189
1190         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1191
1192         param_data = p;
1193         param_data->module_instance_id = module->instance_id;
1194         param_data->error_code = 0;
1195         param_data->param_id = PARAM_ID_VOL_CTRL_MASTER_GAIN;
1196         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1197
1198         p = p + APM_MODULE_PARAM_DATA_SIZE;
1199         cfg = p;
1200         cfg->master_gain =  vol;
1201         rc = q6apm_send_cmd_sync(apm, pkt, 0);
1202
1203         kfree(pkt);
1204
1205         return rc;
1206 }
1207 EXPORT_SYMBOL_GPL(audioreach_gain_set_vol_ctrl);
1208
1209 static int audioreach_gain_set(struct q6apm_graph *graph, struct audioreach_module *module)
1210 {
1211         struct apm_module_param_data *param_data;
1212         struct apm_gain_module_cfg *cfg;
1213         int rc, payload_size;
1214         struct gpr_pkt *pkt;
1215
1216         payload_size = APM_GAIN_CFG_PSIZE;
1217         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
1218         if (IS_ERR(pkt))
1219                 return PTR_ERR(pkt);
1220
1221         cfg = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1222
1223         param_data = &cfg->param_data;
1224         param_data->module_instance_id = module->instance_id;
1225         param_data->error_code = 0;
1226         param_data->param_id = APM_PARAM_ID_GAIN;
1227         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1228
1229         cfg->gain_cfg.gain = module->gain;
1230
1231         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
1232
1233         kfree(pkt);
1234
1235         return rc;
1236 }
1237
1238 int audioreach_set_media_format(struct q6apm_graph *graph, struct audioreach_module *module,
1239                                 struct audioreach_module_config *cfg)
1240 {
1241         int rc;
1242
1243         switch (module->module_id) {
1244         case MODULE_ID_DATA_LOGGING:
1245                 rc = audioreach_module_enable(graph, module, true);
1246                 if (!rc)
1247                         rc = audioreach_logging_set_media_format(graph, module);
1248                 break;
1249         case MODULE_ID_PCM_DEC:
1250         case MODULE_ID_PCM_ENC:
1251         case MODULE_ID_PCM_CNV:
1252         case MODULE_ID_PLACEHOLDER_DECODER:
1253         case MODULE_ID_PLACEHOLDER_ENCODER:
1254                 rc = audioreach_pcm_set_media_format(graph, module, cfg);
1255                 break;
1256         case MODULE_ID_DISPLAY_PORT_SINK:
1257                 rc = audioreach_display_port_set_media_format(graph, module, cfg);
1258                 break;
1259         case MODULE_ID_I2S_SOURCE:
1260         case MODULE_ID_I2S_SINK:
1261                 rc = audioreach_i2s_set_media_format(graph, module, cfg);
1262                 break;
1263         case MODULE_ID_WR_SHARED_MEM_EP:
1264                 rc = audioreach_shmem_set_media_format(graph, module, cfg);
1265                 break;
1266         case MODULE_ID_GAIN:
1267                 rc = audioreach_gain_set(graph, module);
1268                 break;
1269         case MODULE_ID_CODEC_DMA_SINK:
1270         case MODULE_ID_CODEC_DMA_SOURCE:
1271                 rc = audioreach_codec_dma_set_media_format(graph, module, cfg);
1272                 break;
1273         case MODULE_ID_SAL:
1274                 rc = audioreach_sal_set_media_format(graph, module, cfg);
1275                 if (!rc)
1276                         rc = audioreach_sal_limiter_enable(graph, module, true);
1277                 break;
1278         case MODULE_ID_MFC:
1279                 rc = audioreach_mfc_set_media_format(graph, module, cfg);
1280                 break;
1281         case MODULE_ID_GAPLESS:
1282                 rc = audioreach_gapless_set_media_format(graph, module, cfg);
1283                 break;
1284         default:
1285                 rc = 0;
1286         }
1287
1288         return rc;
1289 }
1290 EXPORT_SYMBOL_GPL(audioreach_set_media_format);
1291
1292 void audioreach_graph_free_buf(struct q6apm_graph *graph)
1293 {
1294         struct audioreach_graph_data *port;
1295
1296         mutex_lock(&graph->lock);
1297         port = &graph->rx_data;
1298         port->num_periods = 0;
1299         kfree(port->buf);
1300         port->buf = NULL;
1301
1302         port = &graph->tx_data;
1303         port->num_periods = 0;
1304         kfree(port->buf);
1305         port->buf = NULL;
1306         mutex_unlock(&graph->lock);
1307 }
1308 EXPORT_SYMBOL_GPL(audioreach_graph_free_buf);
1309
1310 int audioreach_map_memory_regions(struct q6apm_graph *graph, unsigned int dir, size_t period_sz,
1311                                   unsigned int periods, bool is_contiguous)
1312 {
1313         struct apm_shared_map_region_payload *mregions;
1314         struct apm_cmd_shared_mem_map_regions *cmd;
1315         uint32_t num_regions, buf_sz, payload_size;
1316         struct audioreach_graph_data *data;
1317         struct gpr_pkt *pkt;
1318         void *p;
1319         int rc, i;
1320
1321         if (dir == SNDRV_PCM_STREAM_PLAYBACK)
1322                 data = &graph->rx_data;
1323         else
1324                 data = &graph->tx_data;
1325
1326         if (is_contiguous) {
1327                 num_regions = 1;
1328                 buf_sz = period_sz * periods;
1329         } else {
1330                 buf_sz = period_sz;
1331                 num_regions = periods;
1332         }
1333
1334         /* DSP expects size should be aligned to 4K */
1335         buf_sz = ALIGN(buf_sz, 4096);
1336
1337         payload_size = sizeof(*cmd) + (sizeof(*mregions) * num_regions);
1338
1339         pkt = audioreach_alloc_apm_pkt(payload_size, APM_CMD_SHARED_MEM_MAP_REGIONS, dir,
1340                                      graph->port->id);
1341         if (IS_ERR(pkt))
1342                 return PTR_ERR(pkt);
1343
1344         p = (void *)pkt + GPR_HDR_SIZE;
1345         cmd = p;
1346         cmd->mem_pool_id = APM_MEMORY_MAP_SHMEM8_4K_POOL;
1347         cmd->num_regions = num_regions;
1348
1349         cmd->property_flag = 0x0;
1350
1351         mregions = p + sizeof(*cmd);
1352
1353         mutex_lock(&graph->lock);
1354
1355         for (i = 0; i < num_regions; i++) {
1356                 struct audio_buffer *ab;
1357
1358                 ab = &data->buf[i];
1359                 mregions->shm_addr_lsw = lower_32_bits(ab->phys);
1360                 mregions->shm_addr_msw = upper_32_bits(ab->phys);
1361                 mregions->mem_size_bytes = buf_sz;
1362                 ++mregions;
1363         }
1364         mutex_unlock(&graph->lock);
1365
1366         rc = audioreach_graph_send_cmd_sync(graph, pkt, APM_CMD_RSP_SHARED_MEM_MAP_REGIONS);
1367
1368         kfree(pkt);
1369
1370         return rc;
1371 }
1372 EXPORT_SYMBOL_GPL(audioreach_map_memory_regions);
1373
1374 int audioreach_shared_memory_send_eos(struct q6apm_graph *graph)
1375 {
1376         struct data_cmd_wr_sh_mem_ep_eos *eos;
1377         struct gpr_pkt *pkt;
1378         int rc = 0, iid;
1379
1380         iid = q6apm_graph_get_rx_shmem_module_iid(graph);
1381         pkt = audioreach_alloc_cmd_pkt(sizeof(*eos), DATA_CMD_WR_SH_MEM_EP_EOS, 0,
1382                                        graph->port->id, iid);
1383         if (IS_ERR(pkt))
1384                 return PTR_ERR(pkt);
1385
1386         eos = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1387
1388         eos->policy = WR_SH_MEM_EP_EOS_POLICY_LAST;
1389
1390         rc = gpr_send_port_pkt(graph->port, pkt);
1391         kfree(pkt);
1392
1393         return rc;
1394 }
1395 EXPORT_SYMBOL_GPL(audioreach_shared_memory_send_eos);