TRANSPARENCIA E IA RESPONSABLE

1. Nuestro enfoque

En ALMA utilizamos inteligencia artificial para transformar grandes volúmenes de información y documentación en resultados estructurados que apoyan procesos profesionales de análisis, cumplimiento, gestión regulatoria y toma de decisiones.

Entendemos que utilizar inteligencia artificial en estos contextos requiere algo más que incorporar modelos avanzados.

Requiere establecer controles sobre cómo se utilizan los modelos, qué información reciben, cómo se evalúan sus resultados, qué nivel de autonomía poseen, cuándo debe intervenir una persona y cómo puede reconstruirse posteriormente el proceso que produjo un resultado.

Por esta razón, ALMA aborda la inteligencia artificial mediante un modelo de gobierno basado en principios de responsabilidad, seguridad, privacidad, calidad, trazabilidad, supervisión humana y gestión de riesgos.

Nuestro objetivo no es afirmar que la inteligencia artificial es infalible. Es utilizarla de manera controlada, verificable y proporcional a las consecuencias que pueden derivarse de sus resultados.

2. Cómo utiliza ALMA la inteligencia artificial

Los servicios de ALMA pueden utilizar inteligencia artificial para ejecutar o apoyar actividades como análisis documental, extracción y estructuración de información, identificación de obligaciones, clasificación y priorización de antecedentes, análisis de evidencias, evaluación de información, generación de resultados técnicos y otras funciones relacionadas con los servicios contratados.

Dependiendo de la funcionalidad, el procesamiento puede combinar diferentes componentes tecnológicos, incluyendo:

a. agentes de inteligencia artificial;

b. modelos fundacionales;

c. sistemas de generación aumentada por recuperación (RAG);

d. bases de conocimiento;

e. reglas y metodologías especializadas;

f. herramientas de procesamiento documental;

g. fuentes de información autorizadas;

h. integraciones con otros sistemas; y

i. mecanismos de evaluación, validación y supervisión humana cuando corresponda.

La arquitectura concreta utilizada puede variar según la función, naturaleza de la información, requisitos del servicio, desempeño, disponibilidad, seguridad, privacidad y nivel de riesgo.

3. Agentes de inteligencia artificial

ALMA puede utilizar agentes especializados para ejecutar diferentes funciones dentro de un proceso.

Un agente puede recibir información, consultar fuentes o bases de conocimiento autorizadas, aplicar instrucciones y metodologías, utilizar herramientas disponibles y generar resultados dentro de los límites definidos para su función.

ALMA no considera que la incorporación de un agente implique entregarle autonomía ilimitada.

Los agentes operan dentro de capacidades, permisos, fuentes de información, herramientas y controles definidos según su finalidad y nivel de riesgo.

Las capacidades de un agente pueden ser evaluadas, modificadas, restringidas o suspendidas cuando su comportamiento, desempeño o riesgo así lo requieran.

4. Utilización de modelos fundacionales

ALMA puede utilizar modelos fundacionales proporcionados por uno o más proveedores tecnológicos.

La selección de un modelo depende de factores como la función que debe ejecutar, calidad esperada, características técnicas, seguridad, privacidad, disponibilidad, costo, condiciones contractuales y riesgo.

ALMA no presume que un modelo más nuevo, más grande o con mejores resultados generales sea automáticamente más apropiado para todas sus funciones.

Los cambios relevantes de modelos pueden requerir evaluación antes de ser incorporados a capacidades que se encuentren en operación.

Esto permite que ALMA mantenga una arquitectura adaptable a la evolución tecnológica sin depender necesariamente de un único modelo fundacional.

5. Información y conocimiento

La calidad de un sistema de inteligencia artificial no depende exclusivamente del modelo utilizado.

En determinadas funcionalidades, ALMA puede complementar los modelos con información proporcionada por el cliente, documentos autorizados, bases de conocimiento, fuentes especializadas, reglas, metodologías y mecanismos de recuperación de información.

Los sistemas RAG permiten recuperar información relevante desde fuentes determinadas para utilizarla como contexto en la generación o análisis realizado por los modelos.

ALMA procura gestionar la calidad, vigencia, procedencia y utilización de dichas fuentes de manera proporcional a la naturaleza de cada capacidad.

La existencia de RAG o de una fuente documental no elimina completamente la posibilidad de errores, interpretaciones incorrectas o información insuficiente.

6. Información del Cliente

La Información del Cliente se utiliza para proporcionar los servicios y ejecutar las funcionalidades solicitadas.

ALMA no utiliza la Información del Cliente para entrenar, reentrenar o realizar fine-tuning de modelos fundacionales generales, propios o de terceros, salvo autorización expresa del cliente.

ALMA tampoco utiliza el contenido confidencial proporcionado por un cliente para desarrollar productos destinados a otros clientes o para finalidades independientes de la prestación del servicio contratado.

Los proveedores tecnológicos que participan en determinadas operaciones pueden procesar información en la medida necesaria para proporcionar sus respectivos servicios y conforme a las condiciones contractuales y controles aplicables.

Información adicional sobre estas materias se encuentra disponible en nuestra Política de Privacidad y Lista de Subprocesadores.

7. Privacidad desde el diseño

ALMA considera la privacidad como parte del diseño y operación de sus capacidades de inteligencia artificial.

Los controles aplicables dependen de la naturaleza de la información, finalidad del tratamiento, arquitectura, proveedores involucrados, nivel de riesgo y obligaciones legales o contractuales correspondientes.

Cuando ALMA procesa datos personales por cuenta de un cliente, el tratamiento puede estar sujeto adicionalmente a las instrucciones del cliente y a las condiciones establecidas mediante un Data Processing Agreement u otro instrumento contractual.

ALMA promueve la minimización de información y procura limitar el tratamiento a aquella información necesaria para ejecutar la finalidad correspondiente.

8. Seguridad

ALMA aplica medidas técnicas y organizativas destinadas a proteger razonablemente sus sistemas y la información procesada.

La seguridad se aborda considerando diferentes componentes del entorno tecnológico, incluyendo infraestructura, accesos, información, aplicaciones, agentes, modelos, integraciones y proveedores.

Los controles pueden comprender, según corresponda, mecanismos de autenticación y autorización, gestión de accesos, protección de credenciales y secretos, cifrado, registros de actividad, monitoreo, respaldo, gestión de vulnerabilidades, gestión de cambios y respuesta ante incidentes.

Ningún sistema tecnológico puede garantizar seguridad absoluta. Por ello, ALMA aborda la seguridad como un proceso continuo de identificación, evaluación y tratamiento de riesgos.

9. Calidad de los resultados

ALMA no presume que un resultado sea correcto únicamente porque haya sido producido por un modelo avanzado de inteligencia artificial.

Las capacidades pueden ser evaluadas considerando criterios como:

exactitud, completitud, consistencia, relevancia, trazabilidad, fundamentación en las fuentes disponibles, reproducibilidad razonable, cumplimiento metodológico y capacidad para identificar información insuficiente o situaciones en las que no corresponde generar una conclusión.

La intensidad y naturaleza de las evaluaciones dependen de la función, complejidad, criticidad y consecuencias potenciales del resultado.

Los errores identificados pueden utilizarse para mejorar evaluaciones, reglas, instrucciones, metodologías y controles, sin que ello implique utilizar Información del Cliente para entrenar modelos fundacionales generales.

10. Limitaciones de la inteligencia artificial

Los sistemas de inteligencia artificial presentan limitaciones inherentes.

Entre otras situaciones, pueden generar información incorrecta, omitir antecedentes relevantes, interpretar incorrectamente una fuente, producir resultados inconsistentes, asignar una clasificación inadecuada o responder con excesiva confianza cuando la información disponible es insuficiente.

Los sistemas basados en recuperación de información también pueden verse afectados por problemas en las fuentes disponibles, recuperación incompleta, información desactualizada o relaciones incorrectas entre una fuente y una conclusión.

Por estas razones, ALMA incorpora controles proporcionales al riesgo y no presenta la inteligencia artificial como una tecnología infalible.

11. Supervisión humana

La automatización no elimina la función de las personas en el gobierno de los servicios de ALMA.

Dependiendo de la naturaleza, criticidad y nivel de riesgo de una capacidad, ALMA puede establecer diferentes niveles de intervención o supervisión humana.

Estos pueden comprender revisión de resultados, validación profesional o experta, análisis de excepciones, revisión de información insuficiente, aprobación antes de determinadas acciones, escalamiento o suspensión de una capacidad.

La existencia de supervisión humana no significa necesariamente que cada resultado generado por ALMA sea revisado individualmente por una persona.

Cuando un servicio incluya específicamente validación humana o experta, su alcance podrá establecerse en las condiciones particulares del servicio.

12. Resultados de alta relevancia

ALMA adopta un enfoque basado en riesgo.

No todos los resultados requieren el mismo nivel de control.

Cuando un resultado pueda tener consecuencias relevantes para un proceso regulatorio, contractual, operacional, de cumplimiento o de otra naturaleza, ALMA puede aplicar controles adicionales de evaluación, validación, trazabilidad o supervisión.

Los usuarios deben considerar igualmente la naturaleza y consecuencias de sus decisiones y aplicar el nivel de revisión profesional que corresponda.

Los Resultados de ALMA no constituyen por sí solos, salvo que expresamente se establezca lo contrario, una autorización administrativa, certificación de cumplimiento, opinión oficial de una autoridad o garantía de un resultado regulatorio determinado.

13. Clasificaciones y evaluaciones automatizadas

Algunas capacidades de ALMA pueden realizar clasificaciones, priorizaciones o evaluaciones técnicas.

Por ejemplo, una capacidad puede clasificar información según criterios de criticidad, riesgo, tipo de obligación, estado de evidencia u otros atributos relevantes para el servicio.

ALMA procura que estas clasificaciones se basen en criterios definidos y puedan ser evaluadas de acuerdo con su finalidad y nivel de riesgo.

Una clasificación técnica sobre documentos, obligaciones, evidencias o riesgos no constituye necesariamente elaboración de perfiles ni una decisión automatizada sobre una persona.

Cuando una capacidad pudiera producir efectos jurídicos o significativamente similares sobre personas mediante tratamiento automatizado de datos personales, ALMA evaluará específicamente las obligaciones y controles correspondientes.

14. Sesgos y consistencia

Los sistemas de inteligencia artificial pueden reflejar sesgos presentes en los modelos, datos, fuentes, metodologías, instrucciones o procesos mediante los cuales son utilizados.

ALMA considera los riesgos de sesgo y consistencia de manera proporcional a la naturaleza de cada capacidad.

Cuando una clasificación o evaluación pueda generar consecuencias relevantes, pueden establecerse criterios de evaluación destinados a detectar comportamientos sistemáticamente incorrectos, inconsistentes o injustificados.

La relevancia del análisis de sesgos depende del contexto: no todos los procesos documentales presentan el mismo tipo o nivel de riesgo.

15. Trazabilidad

ALMA considera la trazabilidad un elemento relevante para el uso responsable de inteligencia artificial.

Dependiendo de la capacidad y de los requisitos aplicables, ALMA puede mantener información que permita reconstruir aspectos relevantes de una ejecución, tales como el agente o capacidad utilizada, versiones de componentes, modelos involucrados cuando dicha información se encuentre disponible, fuentes consultadas, herramientas utilizadas, eventos relevantes, resultados, errores, controles e intervenciones humanas.

El nivel de trazabilidad dependerá de la naturaleza y riesgo del servicio, así como de las restricciones técnicas, legales, de privacidad, seguridad y propiedad intelectual aplicables.

La trazabilidad no requiere almacenar o revelar razonamientos internos privados de los modelos ni cadenas de pensamiento.

16. Explicabilidad

ALMA procura proporcionar información suficiente para comprender la naturaleza y procedencia de sus Resultados cuando ello resulte relevante y técnicamente posible.

Dependiendo de la funcionalidad, esto puede incluir referencias documentales, fuentes utilizadas, criterios de clasificación, información sobre el proceso realizado, advertencias, limitaciones o indicaciones sobre información insuficiente.

La explicabilidad debe equilibrarse con requisitos de seguridad, confidencialidad, protección de propiedad intelectual y limitaciones inherentes de los modelos utilizados.

17. Cambios de modelos y sistemas

Los sistemas de inteligencia artificial evolucionan rápidamente.

ALMA puede incorporar, sustituir, actualizar o retirar modelos, proveedores, agentes, herramientas, bases de conocimiento u otros componentes.

Un cambio tecnológico no se considera automáticamente una mejora.

Los cambios relevantes pueden estar sujetos a evaluación, pruebas, revisión de riesgos y mecanismos de gestión de cambios antes de ser utilizados en determinadas capacidades.

ALMA puede revertir, restringir o suspender un cambio cuando su comportamiento o desempeño no resulte adecuado.

18. Acciones autónomas

ALMA establece límites sobre las acciones que sus capacidades pueden ejecutar de manera autónoma.

El nivel de autonomía permitido depende de la función, consecuencias potenciales, reversibilidad de las acciones, información involucrada y controles disponibles.

Las capacidades no deben modificar autónomamente controles críticos, permisos, reglas esenciales, configuraciones de seguridad, metodologías relevantes u otros componentes protegidos sin los mecanismos de autorización correspondientes.

La incorporación futura de nuevas capacidades autónomas será evaluada conforme a su riesgo antes de su utilización operacional.

19. Gestión de riesgos de IA

ALMA gestiona los riesgos asociados a la inteligencia artificial considerando tanto riesgos tecnológicos como riesgos relacionados con información, privacidad, seguridad, calidad, proveedores, operación, cumplimiento y utilización de los Resultados.

Los riesgos pueden ser identificados y evaluados durante el diseño, incorporación, modificación y operación de las capacidades.

Los controles se determinan de manera proporcional a la probabilidad, impacto, criticidad y contexto del riesgo identificado.

Cuando un riesgo no pueda reducirse a un nivel aceptable, ALMA puede restringir, modificar, aumentar la supervisión o suspender la capacidad correspondiente.

20. Incidentes relacionados con inteligencia artificial

Un incidente de IA no se limita a un incidente tradicional de ciberseguridad.

También puede comprender errores sistemáticos, clasificaciones incorrectas relevantes, fallas de recuperación de información, degradación significativa de un modelo, comportamiento inesperado de un agente, utilización incorrecta de herramientas, problemas de privacidad o acciones no previstas.

ALMA mantiene mecanismos para identificar, evaluar, contener, investigar y corregir incidentes de acuerdo con su naturaleza y severidad.

Cuando resulte necesario, una capacidad afectada podrá ser restringida o suspendida mientras se investiga y corrige la situación.

21. Proveedores tecnológicos

ALMA utiliza proveedores tecnológicos especializados para determinadas funciones de sus servicios.

La selección y utilización de dichos proveedores considera factores como funcionalidad, calidad, seguridad, privacidad, disponibilidad, riesgo y condiciones contractuales.

ALMA puede utilizar diferentes proveedores o modelos según la funcionalidad y podrá modificarlos conforme evolucione su arquitectura.

Los proveedores que pueden procesar Información del Cliente o datos personales se gestionan conforme a las obligaciones aplicables y, cuando corresponda, se identifican en nuestra Lista de Subprocesadores.

22. Responsabilidad humana

ALMA considera que la inteligencia artificial debe apoyar el trabajo y la toma de decisiones de las personas, no eliminar automáticamente la responsabilidad profesional.

Las personas que diseñan, operan, supervisan o utilizan capacidades de inteligencia artificial deben comprender razonablemente sus funciones, alcances y limitaciones.

Del mismo modo, los usuarios de ALMA deben considerar la naturaleza del Resultado y sus consecuencias antes de utilizarlo para adoptar decisiones materiales.

El nivel apropiado de intervención humana depende del contexto y del riesgo.

23. Gobierno de la inteligencia artificial

ALMA mantiene un marco interno de gobierno destinado a establecer principios, responsabilidades y controles para el diseño, desarrollo, adquisición, integración, utilización, evaluación y evolución de sus capacidades de inteligencia artificial.

Este modelo aborda materias como gobierno, arquitectura, ciclo de vida de agentes, modelos fundacionales, conocimiento y RAG, gestión de riesgos, seguridad, privacidad, desarrollo seguro, calidad, supervisión humana, trazabilidad, incidentes, continuidad, competencias, monitoreo y cumplimiento.

La existencia de este marco no constituye por sí misma una certificación bajo un estándar externo.

ALMA puede utilizar estándares, marcos y buenas prácticas reconocidas como referencias para la evolución de su sistema de gobierno, sin presentar dicha utilización como certificación cuando esta no exista.

24. Mejora continua

El gobierno responsable de inteligencia artificial es un proceso continuo.

ALMA puede utilizar evaluaciones, métricas, incidentes, hallazgos, cambios tecnológicos, feedback, modificaciones regulatorias y experiencia operacional para identificar oportunidades de mejora.

El feedback o los errores detectados no se incorporan automáticamente a los sistemas en producción.

Las modificaciones relevantes deben pasar por los mecanismos de evaluación, validación y gestión de cambios correspondientes antes de su implementación.

ALMA no permite que sus capacidades modifiquen autónomamente componentes críticos de producción fuera de los controles establecidos.

25. Lo que ALMA no afirma

La transparencia también implica establecer claramente qué no debe inferirse de nuestras prácticas.

ALMA no afirma que sus sistemas de inteligencia artificial sean infalibles.

No garantiza que todos los Resultados estén completamente libres de errores.

No considera que utilizar un modelo avanzado elimine la necesidad de evaluación y controles.

No considera que utilizar infraestructura o proveedores certificados convierta automáticamente a ALMA en titular de dichas certificaciones.

No presenta la utilización de estándares o marcos de referencia como una certificación independiente.

Y no considera que la automatización elimine las responsabilidades humanas, profesionales, legales o regulatorias que correspondan.

26. Información que protegemos

La transparencia no requiere revelar información cuya divulgación pueda afectar la seguridad de ALMA, de sus clientes o de terceros.

Por esta razón, determinada información permanece protegida, incluyendo configuraciones de seguridad, credenciales, vulnerabilidades, arquitectura sensible, prompts o instrucciones propietarias, código fuente, metodologías protegidas, mecanismos internos cuya divulgación pueda facilitar abuso y otra propiedad intelectual o información confidencial.

ALMA busca proporcionar transparencia suficiente sobre sus prácticas sin comprometer la seguridad, confidencialidad o propiedad intelectual de sus sistemas.

27. Información adicional para clientes

Los clientes pueden requerir información adicional para procesos de evaluación de proveedores, due diligence, seguridad, privacidad, compliance o gestión de riesgos.

Dependiendo de la naturaleza de la solicitud y de las obligaciones de confidencialidad y seguridad aplicables, ALMA podrá proporcionar documentación adicional, respuestas a cuestionarios, información contractual o antecedentes específicos sobre sus controles.

Determinada información sensible podrá requerir un acuerdo de confidencialidad antes de ser proporcionada.

28. Relación con otros documentos

Este documento debe interpretarse conjuntamente con los Términos y Condiciones de Uso, la Política de Privacidad, el Aviso Legal, la Lista de Subprocesadores y los contratos específicos que correspondan.

En caso de contradicción respecto de una materia regulada expresamente mediante un contrato específico, prevalecerá dicho instrumento respecto de esa materia, salvo disposición legal imperativa en contrario.

29. Evolución de este documento

ALMA podrá actualizar este documento como consecuencia de cambios tecnológicos, operacionales, regulatorios, contractuales o de su sistema de gobierno de inteligencia artificial.

La versión vigente indicará su fecha de publicación.

30. Contacto

Para consultas relacionadas con las prácticas de inteligencia artificial, privacidad o gobierno tecnológico de ALMA:

Alma Technologies LLC.

1600 Van Lennen Ave, Suite 101

Cheyenne, WY 82001

Estados Unidos

Contacto general: contacto@goalma.ai

Privacidad: privacidad@goalma.ai