Realidad Profesional | Revista del Consejo Profesional de Ciencias Económicas de la Provincia de Buenos Aires y su Caja de Seguridad Social
El valor de los datos: ¿Es posible
auditar la inteligencia artificial?
En esta nota, los autores se centran en el uso responsable de la inteligencia artificial y en los riesgos inherentes a la falta de transparencia sobre su funcionamiento.
Los algoritmos que sustentan la inteligencia artificial (IA) aprenden de nuestras conductas y preferencias, optimizando la publicidad y las campañas comerciales a partir de las huellas digitales que va dejando nuestro paso por internet. Sin embargo, este poder plantea riesgos, como la falta de transparencia en su funcionamiento y la recopilación masiva de datos personales no autorizados. A medida que la IA avanza, surgen desafíos tanto éticos como legales, y en este artículo, el Dr. Diego Balbi y la Dra. Ana Julia Gavilán reflexionan sobre el valor real que para empresas y compañías tienen nuestros datos personales y teorizan sobre la posibilidad de auditar a la IA.
ARTÍCULO PUBLICADO EL 2025-01-03
Edición N. 143 - Enero / Febrero 2025
NOTAS DE AUTOR
Dr. Diego Balbi
Contador Público (Tomo 120, Folio 183,
Consejo Profesional de Ciencias Económicas
de la Provincia de Buenos Aires).
Auditor en el Tribunal de Cuentas de Buenos Aires.
Impulsor de la Comunidad Networking
CriptoWorld e investigador del ecosistema cripto.
Dra. Ana Julia Gavilán
Contadora Pública (Tomo 362, Folio 384,
Consejo Profesional de Ciencias Económicas
de la Ciudad Autónoma de Buenos Aires).
Diplomando en Investigación Práctica
de Ciberdelito y Criptoactivos.
Partiendo de la conceptualización de que la inteligencia artificial (IA) es la combinación de algoritmos con el propósito de crear resultados y/o procesos que simulen ser producto de las mismas capacidades que posee el ser humano, versaremos sobre su usabilidad y auditabilidad.
Con algo de ritmo
Un algoritmo es un conjunto de instrucciones ordenadas y finitas que se asignan para solucionar un problema, procesar datos y realizar una cuenta, entre otras tareas y actividades. A partir de un estado inicial, se llega a un estado final y se obtiene una solución buscada. En el caso de las plataformas digitales, el funcionamiento implica conocer al usuario para mostrarle la información que considera relevante de acuerdo con sus intereses, a partir de las actividades que él mismo realiza. Frente a un grupo de datos, el algoritmo especifica ciertas reglas que toma de nuestros gustos y comportamientos en la plataforma, y hasta puede actuar intuitivamente a través de la información que recoge, direccionando anuncios y ofertas.
El desafío de los desarrolladores de contenido para plataformas digitales es lograr que el algoritmo funcione de modo tal que las empresas tengan mayor impacto en sus comunicaciones y en las campañas, y mejor rendimiento en el uso de los recursos económicos de las pautas publicitarias, por lo que el máximo capital de una plataforma digital son los algoritmos.
A su vez, es importante analizar cuál es nuestro precio como consumidores y usuarios, cuál es el precio de nuestros datos, y si realmente estamos dispuestos a brindarlos gratuitamente, permitiendo así a los proveedores tener otras herramientas de comercialización. La gran mayoría de la inteligencia artificial se basa en la recopilación y procesamiento de los datos que los usuarios y consumidores brindan gratuitamente y con muy pocos (por no decir nulos) controles.
Pero también tenemos que hacer alusión a que existen tecnologías que, haciendo uso de la IA, ayudan a la protección del consumidor. Nos referimos a los sistemas de bloqueos de anuncios, software anti–spam y técnicas anti–pishing, por citar algunos, orientados a la protección de los usuarios, en lugar de fomentar la publicidad agresiva e influenciable.
La inteligencia artificial genera nuevos paradigmas y puntos de conflictos con la normativa vigente, pero lo que no podemos negar es que, con el paso del tiempo, nos hará más eficientes y permitirá ejecutar acciones que nunca hubiéramos podido realizar debido a su complejidad. Para ello, los sistemas jurídicos actuales deberán adecuarse y analizar las situaciones que puedan ir generándose con su accionar.
¿Quién tiene la última palabra?
La inteligencia artificial pone en juego la economía del comportamiento, rama de la economía que se cruza con la psicología y la sociología, e intenta analizar las conductas humanas no previstas para obtener mejores resultados en los procesos de ventas. Hoy, las plataformas digitales, a través de un algoritmo, analizan respuestas emocionales y patrones de conducta, tomando como base las operaciones de compra previa y construyendo un historial de categorías.
Esta recopilación y análisis de datos personales conllevan diversos riesgos, como el acceso no autorizado, las brechas de datos y la creación de perfiles individuales detallados que pueden utilizarse para la vigilancia o fines discriminatorios.
No obstante, existen inconvenientes respecto a la acumulación y procesamiento de datos, ya que las decisiones finales siguen siendo humanas. Si bien los datos otorgan evidencias e indicios para mejorar y hacer más eficientes las operaciones, son las personas quienes siguen teniendo la última palabra. Supongamos que una empresa que elabora productos de limpieza cuenta con un sistema de aprendizaje automático que procesa los datos de los clientes de manera eficaz; aún así, le habría resultado imposible predecir el cambio de comportamiento del consumidor en febrero de 2020, cuando el alcohol en gel escaseó. Los clientes, en un contexto como la pandemia, no estuvieron representados en los datos de entrenamiento, por lo que existen inconvenientes respecto de la acumulación, procesamiento y análisis de datos.
Sin embargo, a medida que la IA continúa revolucionando industrias en todo el mundo, las empresas se enfrentan a una compleja interacción de oportunidades y desafíos. El reciente reglamento de IA de la Unión Europea marca un momento crucial en la regulación global de la inteligencia artificial. Esta legislación, diseñada para equilibrar la innovación con las consideraciones éticas, proporciona un marco para que las empresas (así como también los auditores) desarrollen e implementen sistemas de IA de manera responsable.
¿Es realmente auditable la IA?
La IA ofrece un inmenso potencial para la innovación y la eficiencia, desde la automatización de tareas rutinarias hasta la toma de decisiones basadas en datos. Sin embargo, su rápido avance también plantea preocupaciones apremiantes, como la privacidad, ya que se nutre de grandes cantidades de datos personales para funcionar.
Estas regulaciones buscan garantizar que los individuos tengan control sobre sus datos personales, que los sistemas de IA sean transparentes y responsables, y que se implementen las salvaguardas adecuadas para prevenir daños.
El algoritmo organiza los contenidos de las redes sociales en función de la probabilidad de que cada usuario interactúe con ellos. Si bien la inteligencia artificial presenta riesgos que pueden mitigarse con la auditoría de los sistemas y la búsqueda de comprensión por parte del usuario sobre cómo se arriba a la decisión/producto de la IA, en la práctica, la auditabilidad y transparencia se torna difusa. Esto es así dado que para poder auditar un sistema de IA y asegurar la transparencia del algoritmo, se debe tener acceso a los datos de entrenamiento del modelo, el aprendizaje de este mediante refuerzos y documentos de los procesos de testeo, entre otros.
En los hechos, los componentes de la IA pueden estar “ocultos” por derechos de propiedad intelectual -como por ejemplo, secretos comerciales sobre los algoritmos, derechos de autor sobre el software, patentes en sus componentes técnicos, etc.- que restringen el acceso a la comprensión de cómo se genera el contenido y/o la manera en que se toma una decisión automatizada.
A lo expuesto, se suma que muchas veces se trata de “cajas negras”, es decir, hasta el mismo desarrollador del modelo se encuentra ante una imposibilidad técnica de comprender qué sucede dentro, dado que la complejidad de las redes neuronales implicadas no es pasible de ingeniería inversa. En resumen, la auditabilidad suele encontrarse con dos barreras: una técnica, otra legal. Es aquí donde se vuelve aún más relevante la decisión humana y el control posterior sobre el resultado, más que en el proceso en sí mismo.
Serán los auditores quienes tendrán la responsabilidad de generar confianza en este nuevo escenario, un mundo lleno de datos, algoritmos y sensores en el cual “todo queda registrado”, surgiendo una oportunidad de cambiar la forma de trabajar para obtener los beneficios de la transformación digital. La concepción de los registros contables como sistema1 se hace más evidente en este contexto tecnológico donde lo importante no es solo la salida, sino todo el proceso, demandando cada vez más habilidades tecnológicas.
Por lo tanto, se plantea la necesidad de un enfoque programático y estratégico de la forma en que los datos se gestionan y se integran en procesos y sistemas, al mismo tiempo que se crea una cultura que fomenta la rendición de cuentas con respecto a los datos y la alfabetización en el uso de los mismos, ponderando una práctica ética.
REFERENCIAS
1. Informe Nº2 denominado “El Sistema de registro. Definición y componentes”, elaborado por la Comisión de Estudios sobre Sistemas de Registro, su Integridad y Autenticidad Documental. EDICON Fondo Editorial Consejo. Consejo Profesional de Ciencias Económicas de la Ciudad Autónoma de Buenos Aires (CPCECABA). ISBN: 978-987-741-049-5, pág. 9.
BIBLIOGRAFÍA
1. Di Pace, D. (2024). El futuro del comercio que se viene (Capítulo: Inteligencia Artificial, pp. 215-247). Empresa Activa.
2. Branciforte, F. (2024). Aspectos legales, Blockchain, Criptoactivos, Smart Contracts y nuevas tecnologías (Capítulo V: Inteligencia Artificial, pp. 125-137). Ediciones DyD.
3. Mantegna, M. (2022). ARTEFICIAL: Creatividad, inteligencia artificial y derecho de autor. CDYT.
Los contenidos que se publican son de exclusiva responsabilidad de sus autores y no expresan necesariamente el pensamiento de los editores.
