AVANCE DE LA INTELIGENCIA ARTIFICIAL PRECISA REGULACIÓN LEGISLATIVA

Foto: UNAM. ¿Quién emitirá una ley de una tecnología que es transfronteriza, qué soberanía aplica?

Fuente: UNAM

La inteligencia artificial (IA) se faculta para las causas más venturosas de la humanidad, pero también para la creación de sistemas autónomos y de armamento, por lo que la especie humana se encuentra en peligro como cuando se descubrió la energía atómica; en consecuencia, es un tema de regulación que no podemos dejar de considerar, planteó Pablo Pruneda Gross.

El coordinador de la línea de investigación “Derecho e Inteligencia Artificial”, del Instituto de Investigaciones Jurídicas (IIJ) de la UNAM, aseguró: si a la IA se le permite tener acceso a mecanismos que dañen o atenten contra la vida, puede tener la capacidad de decidir entre que viva o no un ser humano. Lo que hemos visto desde 2018 es una irrupción tecnológica, ha venido a violentar de manera positiva a veces, a veces no.

Tenemos mecanismos de reconocimiento de voz, facial, algoritmos que revisan la moderación de contenidos en una red social: primero me clasifican a ver qué intereses tengo y luego me mandan la información que saben que nos puede interesar; ahora entendemos por qué no dejamos de ver la pantalla.

Al participar en el Seminario “Derecho digital y tecnologías disruptivas”, se refirió a la Inteligencia Artificial Generativa como el ChatGPT, herramienta que “es una especie de chat como WhatsApp, solo que en lugar de hablar con una persona se conversa con una entidad artificial; no es un buscador de fuentes, es un generador de contenido que trabaja con frases cercanas a la realidad y por eso asombra”.

En el Aula Centenario del IIJ, mencionó que es una entidad que nos recuerda la primera vez que usamos internet y cómo nos asombramos de lo que ocurre en nuestra computadora. “Eso mismo está pasando con este chat, se programa a través de la emulación de las redes neuronales; ya se creó la versión más moderna (GPT-4) a través de Machine Learning que es el Deep Learning”.

ChatGPT busca y a partir de lo que encuentra crea contenidos: le proporcionas imágenes y realiza un diseño, un archivo o lectura en PDF; le solicitas que formule un resumen con los puntos fundamentales, o la creación de una página de internet y la elabora. Con GPT-4 se viene un replanteamiento de la inteligencia general artificial, la que tiene capacidades similares a las de un ser humano.

Se trata de un algoritmo que programa algoritmos, y si lo que programa lo hace mejor que el ser humano, rápidamente habrá un crecimiento exponencial de la tecnología y los seres humanos nos vamos a quedar viendo.

La IA generativa tiene capacidades similares a las de una persona como es el Chat GPT-4. “Tiene muchas ventajas y enseñanzas, pero puede ser que estemos abriendo una caja de pandora, puede ser una tecnología tan perniciosa que extinga a la raza humana, de ese tamaño es el problema, y ahora sí hay indicios en la tecnología que están presentes para afirmarlo, ¿qué tenemos que hacer?, regular”.

En aras de ganar la carrera tecnológica, formuladores y creadores toman atajos y cometen errores, por lo que tiene que haber un regulador. ¿Quién debe regular y quién debe entrar? ¿quién va a emitir una ley de una tecnología que es transfronteriza, qué soberanía aplica?

Riesgos

Señaló algunos riesgos de no regular o legislar las prácticas de la IA generativa. Puede ser adherida a ciertos valores e intereses humanos; además de la generación de contenido escrito, imagen y video falso o malicioso que podría utilizarse en fraudes o suplantación de personas e identidades. También ser una influencia en la democracia hacia la polarización, incidir en la protección a la imagen e intimidad; se convertiría en un riesgo en la interacción con menores de edad.

Por ejemplo, una imagen reciente del Papa Francisco I, donde porta una chamarra larga de color blanco exhibida en redes sociales digitales, fotografía elaborada por ChatGPT. ¿Quién debe evaluar esto, el gobierno solo, o se lo dejamos a las empresas? Hay que generar un discurso conjunto entre academia, gobierno, empresa, industria y sociedad civil.

En este momento, como dijo el periodista estadounidense Ezra Klein, “es mejor equivocarnos por sobre regular, que por subregular”.