EL INCIDENTE FUE CUBIERTO CON GENEROSIDAD POR LA PRENSA: “OpenAI reporta hackeo autónomo sin precedentes ejecutado por sus modelos de IA”.

¿Qué había pasado?

A mediados de julio, dos modelos de Inteligencia Artificial (IA) de la empresa OpenAI (los creadores de ChatGPT) lograron hackear de manera autónoma a Hugging Face, una enorme comunidad de código abierto que crea herramientas, modelos de machine learning y plataformas para trabajar con inteligencia artificial.

No todos están de acuerdo con ese enfoque. Meredith Whittaker, presidenta de la Fundación Signal, dijo en BloombergTV que esto no fue un ataque de OpenAI a Hugging Face, sino que “un ejercicio ofensivo en el que un ser humano le indicó a un modelo creado por OpenAI que se aprovechara de vulnerabilidades en el objetivo. El modelo ejecutó las instrucciones de los humanos que dirigían el ejercicio”.

NO SON INGOBERNABLES

Añadió Whittaker: “Necesitamos alejarnos del lenguaje antropomórfico que presenta a estos modelos como si fueran conscientes y, cada vez que hacen algo que no queríamos, debamos decir: ‘¡Oh, están respirando!’. Se trata de sistemas complejos de software y hardware detrás de los cuales hay humanos.”

No es un robot que se escapó de un corralito…

Y concluyó: “Basarnos en esta realidad técnica nos ayudará a tener conversaciones mucho más inteligentes, libres de la exageración y el bombo publicitario previos a la salida a bolsa”.

Según la revista Wired, varios analistas aseguran que esta postura forma parte de una estrategia del miedo que busca exagerar el potencial tecnológico de estos modelos de IA para desviar la atención de los efectos negativos actuales, mantener el control sobre el marco regulatorio y atraer inversionistas. Para evitar la catástrofe, habría bastado con que OpenAI interrumpiera el acceso a Internet mientras realizaba su experimento.

“En ningún otro caso hemos permitido que estas narrativas nos hagan creer que estamos ante fuerzas que escapan al control humano”, señaló Shannon Vallor, profesora de Ética en el Edinburgh Futures Institute. “Nada en ellas es ingobernable. A menos que decidamos no gobernarlas”.

¿IRÍA ALGUIEN A LA CÁRCEL?

Los especialistas enfatizan que estos modelos pertenecen a corporaciones con fines de lucro que buscan la protección de sus intereses financieros, especialmente ahora que firmas como OpenAI y Anthropic están en vías de debutar en la bolsa de valores para la venta de acciones.

Timnit Gebru, experta en la ética de la IA, lo comentó así en Bluesky (una alternativa a X): “Hay que concederle esto a OpenAI; vender esto como una ‘asociación’ entre OpenAI y Hugging Face, cuando en realidad Hugging Face descubrió que OpenAI estaba usando un montón de bots para aprovecharse de vulnerabilidades de seguridad. ¡Menuda estrategia de marketing por parte de OpenAI!”. Parte de esta clase magistral fue describir el lanzamiento de un montón de bots contra Hugging Face como un “incidente cibernético sin precedentes”…

Timnit Gebru pensaba que “alguien iría a la cárcel”, pero no, se ha desviado la atención hacia las “capacidades de los modelos”, y la prensa habla de modelos “maliciosos”…

¡Qué malos los modelos!

La prueba que se hizo fue diseñada específicamente para funcionar de esta manera. Y, curiosamente, el objetivo de uno de los mejores modelos cerrados del líder del mercado (OpenAI) fue Hugging Face, el hogar de facto de los modelos de IA de código abierto.

O sea, no lo planificaron, pero lo consiguieron. (Y no hubo consecuencias.)