Сколько времени занимает процедура формирования таблицы каналов и реально ли это сделать например за 10мкс? если это делать в обработчике прерываний dsp - могут ли возникнуть какие-либо проблемы?

Для платы L-761 кроме собственно процедуры формирования управляющей таблицы в DSP, необходима ещё операция по её пересылке в микроконтроллер AVR. Пересылка осуществляется последовательным образом на скорости примерно 625кБод. Т.о. при указанных временных условиях Ваша задачка принципиально не выполнима ((

А приблизительно какое время формирования+передачи таблицы получается в штатном лбиосе?

В штатном ПО все формирование управляющей таблицы происходит в РС. Затем она передаётся в DSP, который пересылает её в AVR. Время пересылки из DSP в AVR зависит от длины управляющей таблицы. Можно считать, что для пересылки одного канала потребуется примерно 14.4 мкс.