Пытаюсь функцией L502_SetSyncStartMode() установить старт циклического вывода по приходу внешнего синхросигнала, однако вывод начинается сразу всегда по L502_StreamsStart() (даже если источником указать не подключенный канал). Реализован ли данный режим синхронизации для цап?

Скорее всего проблема в том, что у Вас нет вызова L502_Configure(). Большинство функций L502_SetXXX только устанавливают значение определенных параметров в структуре, а конфигурация модуля в соответствии с установленными параметрами осуществляется по вызову L502_Configure(). Если Вы использовали пример l502_cycle_out, то так как он вообще не изменяет какие-либо настройки модуля и не вызывает L502_SetXXX, то и  вызов L502_Configure() опущен.

Т.е. должно быть например так:

        if (!err) {
            err = L502_SetSyncStartMode(hnd, L502_SYNC_DI_SYN1_RISE);
            if (!err)
                err = L502_Configure(hnd, 0);
        }