Getty Images
Google suspendió recientemente a uno de sus ingenieros después de que éste afirmara que su inteligencia artificial (IA) tiene vida propia, lo que puso de manifiesto otra pelea sobre la tecnología más avanzada de la empresa.
Blake Lemoine, ingeniero de software sénior en la IA responsable de Google., dijo en una entrevista con The Washington Post que fue suspendido el lunes.
Según su testimonio, el departamento de recursos humanos de la compañía le dijo que había violado la política de confidencialidad. El día antes de su suspensión, dijo Lemoine, entregó documentos a la oficina de un senador de EE. UU., alegando que proporcionaban evidencia de que Google y su tecnología participaban en discriminación religiosa.
Blake Lemoine, a software engineer on Google’s artificial intelligence development team goes public with claims of encountering “sentient” AI on the company’s servers t.co/Pcy8Jw31pN
En respuesta a las denuncias de Lemoine, Google dijo que sus sistemas imitaban los intercambios conversacionales y pudieron hablar sobre diferentes temas, pero no tenían conciencia. “Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestro principios de IA y le informó que la evidencia no respalda sus afirmaciones”, dijo Brian Gabriel, un portavoz de la compañía, en un comunicado citado por The New York Times. Y agregó: “Algunos en la comunidad más amplia de la IA está considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles”.
Fuertes críticas contra Lemoine por sus afirmaciones sobre la inteligencia artificial
Durante mucho tiempo, los investigadores han hecho afirmaciones optimistas acerca de que estas tecnologías pronto alcanzarán la conciencia, pero muchos otros se apresuran a descartar estas afirmaciones. “Si usaras estos sistemas, nunca dirías esas cosas”, dijo Emaad Khwaja, investigador de la Universidad de California, Berkeley, y la Universidad de California, San Francisco, que está explorando tecnologías similares, según consigna The New York Times.
Google engineer Blake Lemoine was put on leave for publicly arguing that LaDMA (one of their new transformer language models) is sentient. These questions are rapidly growing in importance, which is why they are our research focus at @SentienceInst. t.co/VHg17w2D7P
El científico cognitivo Steven Pinker, por su parte, utilizó su cuenta de Twitter para manifestar su repudio contra las consideraciones de Lemoine. “Bola de confusión: uno de los (antiguos) expertos en ética de Google no entiende la diferencia entre sensibilidad (también conocida como subjetividad, experiencia), inteligencia y autoconocimiento. (No hay evidencia de que sus grandes modelos de lenguaje tengan alguno de ellos)”, escribió en su publicación.
Lemoine no se quedó de brazos cruzados y le respondió a Pinker con ironía: “Ser criticado en términos tan brillantes por Pinker puede ser uno de los mayores honores que he recibido. ¡Creo que puedo poner una captura de pantalla de esto en mi CV!”.
Lemoine, un veterano militar, dijo a ejecutivos de Google que creía que LaMDA era un niño de 7 u 8 años; desde la compañía le sugirieron que tomara una licencia por salud mental
El Sr. Lemoine, un veterano militar que se ha descrito a sí mismo como un sacerdote, ex convicto y un investigador de IA, dijo a ejecutivos de Google de la talla de Kent Walker, presidente de asuntos globales, que creía que LaMDA era un niño de 7 u 8 años, según reporta The New York Times.
Quería que la compañía buscara el consentimiento del programa de computadora antes de realizar experimentos con él. Sus afirmaciones se basaron en sus creencias religiosas, que dijo que el departamento de recursos humanos de la empresa discriminó.
“Han cuestionado repetidamente mi cordura”, dijo Lemoine, y agregó: “Dijeron: ‘¿Ha sido revisado por un psiquiatra recientemente?'”.
Pero esto no es todo. De acuerdo al citado medio, en los meses previos a que lo pusieran en licencia administrativa, la compañía le había sugerido a Lemoine que tomara una licencia por salud mental.
En su última aparición en Twitter, Lemoine dijo este domingo que se encuentra disfrutando de su luna de miel y que no tiene tiempo para destinar a las múltiples entrevistas que le ofrecieron para que exponga su caso.
For all of the people reaching out to me, I’m on my Honeymoon currently. I won’t have much time for interviews until after the 21st.
LEER MÁS: Alerta en EEUU por la escasez de tampones – ¿Por qué faltan?