Hoy me he desayunado con este howto que he leído en Panoramsk. La verdad es que es muy completo y detallado y explica paso a paso como configurar la autenticación mediante RSA en un un trunk IAX.
Podéis leerlo aquí: http://www.panoramisk.com/121/iax-and-rsa-authentication/1/en/