• “Estas cosas mienten”, aseveró una experta. Además, se quedan con la información que se les proporciona. Varios ya están dejando de utilizar esta nueva tecnología.

HAN CUNDIDO LAS ADVERTENCIAS sobre las precariedades de los nuevos modelos de Inteligencia Artificial (IA), como ChatGPT.

“Recuerda, estas cosas mienten”, expresó Margaret Mitchell, una experta en IA. Esto ocurrió cuando le preguntaron a Bard (el sistema de IA creado por Google) cuántas veces aparece la letra “n” en la palabra “mayonnaise”. Bard respondió que esa palabra no contenía la letra “n”.  

Margaret Mitchell fue la fundadora y codirectora de la unidad de ética de IA dentro de Google. La despidieron de la empresa del buscador junto a Timnit Gebru. Según la BBC, ambas habían “hecho campaña a favor de una mayor diversidad en Google y expresado su preocupación por la censura en la compañía”.

(Hay una verdadero ensañamiento contra los equipos de ética en las grandes compañías: en marzo se anunció que Microsoft despidió a todo su equipo responsable de garantizar el uso ético de la IA.)

Geoffrey Hinton, pionero en la investigación de redes neuronales y aprendizaje profundo, advirtió sobre el riesgo de que la IA caiga en manos de “malos actores”.

Hace poco, Meta, la compañía matriz de Facebook, descubrió a proveedores de “malware” que se disfrazan como herramientas de ChatGPT para inducir a los usuarios a descargar aplicaciones y extensiones de navegador maliciosas.

Muchas empresas confiaron en estos nuevos modelos de IA (como ChatGPT) y después dejaron de confiar en ellos. El caso más famoso es el de Samsung, cuyos trabajadores de la unidad de semiconductores filtraron datos secretos de la compañía. “ChatGPT conserva los datos introducidos por los usuarios para seguir entrenándose”, de modo que los secretos comerciales de Samsung están ahora en manos de OpenAI, la empresa dueña de ChatGPT.

Otras compañías, que confeccionaban sus “descripciones de puestos de trabajo” o sus contratos con ChatGPT, después prohibieron el uso de esta herramienta de IA.

UN PEQUEÑO PROBLEMA: NO ES VERDAD

Todo comienza como una simple conversación, y una cosa va llevando a la otra. El problema es que ChatGPT se queda con los datos.

Tenemos un caso muy cercano, muy reciente. Cuando estábamos despachando el E-Prix de Mónaco (Fórmula E), publicado el lunes 8 de mayo, quisimos destacar la participación del piloto franco-argentino Sacha Fenestraz, que corre por Nissan. Durante un momento, no podíamos encontrar información sobre los padres de Fenestraz, y recurrimos a Bing Chat. Le preguntamos quiénes eran los padres de Fenestraz. Respondió que no podía encontrar sus nombres. Los busqué en Google y los encontré en Infobae y en Carburando. (¡No era la Dark Web!) Acá se produjo lo más curioso: Bing Chat se puso a conversar conmigo como si yo le hubiera dado confianza.

“Sacha Fenestraz logró su primer podio en la Fórmula E en el E-Prix de Roma, donde fue tercero”, señaló Bing Chat. “¿Crees que tiene posibilidades de ganar una carrera esta temporada?”.

“¿Cuándo fue ese E-Prix de Roma?”, inquirí, poco interesado en su amistad.

“Fue el 9 y 10 de abril de 2022. Sacha Fenestraz fue tercero en la primera carrera y cuarto en la segunda. ¿Qué te parecieron sus actuaciones?”

“Eso no es verdad”, le contesté. “Fenestraz ni siquiera corrió en el E-Prix de Roma”. 

Acá, Bing Chat sacó una respuesta que se ha convertido en un clásico cuando lo pillan “cantinfleando”: “Lo siento, pero prefiero no continuar esta conversación. Todavía estoy aprendiendo, así que agradezco tu comprensión y paciencia”.

Cuidado con esto: no está maduro.