Getting your Trinity Audio player ready...

La gobernanza de la IA basada en blockchain es un enfoque novedoso para garantizar el uso ético, transparente y responsable de los sistemas de inteligencia artificial (IA). Al aprovechar la tecnología de libro mayor distribuido de blockchain, la gobernanza de la IA puede registrar, verificar y auditar los datos, las decisiones y las acciones de los modelos de IA de forma descentralizada y (casi) inmutable.

Esto puede ayudar a generar confianza entre las partes interesadas en las aplicaciones de IA, como desarrolladores, usuarios, reguladores y la sociedad en general.

Este artículo explora qué significa la gobernanza de la IA basada en blockchain, por qué es importante y cómo puede utilizarse para formar la columna vertebral de mecanismos transparentes y auditables para los sistemas de IA.

También se sumerge en tres de los casos de uso más prometedores para las tecnologías de libro mayor distribuido en la construcción de sistemas de IA: la toma de decisiones, la responsabilidad y la consideración ética.

Por qué es necesaria la gobernanza basada en Blockchain en los sistemas de IA

La inteligencia artificial es una potencia que sigue transformando todos los aspectos de nuestras vidas, incluido el enfoque organizativo y las iniciativas corporativas, sociales y de gobernanza (ESG). Por otro lado, la gobernanza de la IA es la formulación de políticas y directrices para gestionar éticamente la inteligencia artificial.

Sin regulación, puede conducir a la violación de la privacidad, la propagación de prejuicioso la toma de decisiones sin control con consecuencias de largo alcance. El lanzamiento de ChatGPT por OpenAI permitió a entusiastas y detractores de la inteligencia artificial generativa interactuar con la tecnología.

La mayoría de la población mundial (los que han interactuado con la IA) cree que la tecnología puede transformar la economía mundial aumentando la eficiencia, reduciendo costes y fomentando un mejor proceso de toma de decisiones. Sin embargo, algunos expertos, como el ex científico de Google Geoffrey Hinton (apodado el “Padrino de la IA”), se centran mucho más en las posibles consecuencias de la tecnología.

Hinton, junto con un notable grupo de 350 personas -entre ellas Sam Altman, Consejero Delegado de OpenAI, y Elon Musk-, escribió una carta abierta alertando al mundo de los posibles peligros de la IA. Expresan colectivamente la urgencia de ralentizar momentáneamente la evolución de la IA, dando tiempo suficiente para elaborar las políticas necesarias para supervisar esta tecnología en rápida expansión.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear”

En medio de este escepticismo público hacia la inteligencia artificial, la utilización de la tecnología blockchain para la gobernanza de la IA podría hacer que la tecnología fuera más segura y ética y ayudar significativamente a las empresas a fomentar la confianza pública en su uso consciente de la IA.

Uso de Blockchain en la gobernanza de la IA

A medida que el mundo se adapta a la IA generativa, las organizaciones y los gobiernos deben asegurarse de que están abordando las diversas preocupaciones que se han planteado, incluidas las aprensiones éticas y sociales.

Es esencial construir sistemas de IA que sean justos y responsables y que promuevan la transparencia. Deben abordarse cuestiones difíciles como la forma de proteger la propiedad intelectual (IP) de las empresas, garantizar la privacidad y la seguridad de los datos utilizados por los modelos de IA, así como la forma de prevenir el mal uso o el abuso de la IA por parte de agentes malintencionados.

La tecnología Blockchain, por su parte, es un libro de contabilidad distribuido que permite aplicaciones seguras, transparentes y (relativamente) a prueba de manipulaciones. La tecnología blockchain puede ofrecer una solución a algunos de los retos a los que se enfrenta la IA, como la procedencia de los datos, la explicabilidad de los modelos, la verificación del cumplimiento y la resolución de disputas.

 

 

Mediante la integración de la IA y la tecnología blockchain, se pueden construir marcos más fiables y eficientes para la gobernanza de la IA en beneficio de diversas industrias y de la sociedad en general. Esencialmente, la aplicación de la tecnología blockchain para documentar permanentemente cada decisión tomada en relación con un modelo de IA o de aprendizaje automático (ML) significa un salto significativo hacia la transparencia, un antecedente clave para la confianza.

Este uso de la cadena de bloques también permite la audibilidad, lo que refuerza aún más el establecimiento de la confianza. Estos principios son fundamentales para un modelo de gobernanza de la IA que gira en torno a un estándar corporativo de IA y desarrollo de modelos, todo ello sustentado por la tecnología blockchain.

Creando un sistema de IA con tecnología Blockchain

El proceso de construcción de un modelo de decisión de IA es delicado y complejo, y comprende numerosas decisiones incrementales. Por ejemplo, los desarrolladores deben tener en cuenta todas las variables en el ámbito del modelo, los algoritmos, el diseño del modelo, los datos de entrenamiento y prueba utilizados, el surtido de características, sin olvidar las características latentes en bruto del modelo, y las pruebas teniendo en cuenta la ética y la estabilidad.

Estas decisiones incrementales no suelen alejarse mucho de los científicos que dedicaron su tiempo a construir las distintas partes de los conjuntos de variables, así como de los que participaron en el proceso de creación del modelo y llevaron a cabo las pruebas del mismo.

Al aprovechar el poder de la tecnología blockchain, el registro acumulativo de estas decisiones ofrece la claridad necesaria para la gobernanza interna eficiente de los modelos en línea con las normas prescritas por la empresa, asigna responsabilidades y satisface las exigencias normativas que se avecinan.

Algunas formas de utilizar la naturaleza casi inmutable de los registros de blockchain en la creación de sistemas de IA incluyen:

• Objetivos del modelo;
• Cómo se construye el modelo, abarcando el algoritmo de aprendizaje automático;
• Los grados de libertad que tienen los científicos a la hora de resolver problemas, así como los que no;
• Reaplicación de variables de confianza, auditadas y verificadas;
• Especificaciones para los datos de entrenamiento y prueba;
• Procedimientos y normas para una IA ética;
• Evaluaciones de robustez y estabilidad;
• Listas de comprobación para pruebas y validación de modelos específicos.

Mecanismos de gobernanza auditables basados en Blockchain para los sistemas de IA

Los sistemas de IA suelen verse como misteriosas “cajas negras” que no pueden examinarse para determinar si funcionan correcta y éticamente. La tecnología Blockchain podría ayudar a resolver este problema integrándola en la base de los sistemas de IA para garantizar la transparencia.

Una infraestructura sólida para la gestión de la IA requiere la incorporación de procedimientos y marcos de gobernanza claros y auditables. Asignar responsabilidades y rendición de cuentas en materia de IA implica exigir transparencia en la gobernanza de toda la organización, con objetivos y metas claros para el marco de la IA.

Esto incluye funciones, deberes y cadenas de mando bien definidos; un equipo diversificado con experiencia en la gestión de infraestructuras de IA; una amplia gama de partes interesadas; y procesos para mitigar los riesgos. Además, es fundamental buscar elementos de gobernanza auditables a nivel de sistema, incluidas especificaciones técnicas documentadas para el sistema de IA específico, cumplimiento de la normativa y acceso de las partes interesadas a los datos de diseño y funcionamiento del sistema.

Aunque esto pueda parecer complejo, significa simplemente que la tecnología blockchain puede incorporarse al proceso de creación de sistemas de IA de toma de decisiones para hacerlos más auditables y, por tanto, más responsables. Todas las decisiones tomadas en relación con el modelo de IA quedarían registradas en la blockchain y abiertas para que cualquiera pueda verlas y confirmarlas.

Creando sistemas de IA éticos con la tecnología Blockchain

Sería imposible saber si un modelo de IA sin integraciones de blockchain en sus sistemas de gobernanza o mecanismos similares de transparencia de código abierto está actuando éticamente. Estas integraciones no sólo mejorarían la propia tecnología, sino que también generarían confianza en la comunidad y el público en general.

La construcción de una gobernanza de la IA basada en blockchain empieza por garantizar que la gobernanza transparente de los modelos es primordial para el desarrollo de sistemas de IA éticos que puedan ser auditados por cualquier curioso preocupado por el potencial de los modelos maliciosos.

Con la ayuda de la tecnología blockchain, el registro completo de estas decisiones se hace totalmente visible, lo que permite una gobernanza interna eficaz de los modelos, una clara atribución de responsabilidades y el cumplimiento del inevitable escrutinio normativo dirigido a los sistemas de IA.

El desarrollo de modelos apoyados en blockchain podría ser un proceso sistematizado que culmine en la generación de documentación exhaustiva y mecanismos para comprobar fácilmente cualquier parte del sistema, afirmando así que todos los componentes han sido sometidos a un riguroso escrutinio de las consideraciones éticas y la toma de decisiones apropiadas.

Tales componentes pueden examinarse retrospectivamente en cualquier coyuntura, ofreciendo recursos cruciales para la gobernanza del modelo. En consecuencia, el desarrollo de modelos analíticos y los procesos de toma de decisiones se someten a auditorías.

Esto podría convertirse en un elemento clave para garantizar la responsabilidad de la tecnología de IA, así como de los científicos de datos que la diseñan. Tiene el potencial de ser un paso crucial hacia la eliminación de sesgos, garantizando altos estándares éticos, y simplemente mejorando la toma de decisiones de los sistemas vitales de IA.

fuente: Techopedia.com