El hombre ampliamente considerado como el padrino de la inteligencia artificial (IA) ha renunciado a su trabajo, advirtiendo sobre los crecientes peligros derivados de los avances en este campo.
Geoffrey Hinton, de 75 años, anunció su renuncia a Google en una declaración al New York Times, diciendo que ahora lamentaba su trabajo.
Le dijo a la BBC que algunos de los peligros de los chatbots de IA eran “bastante aterradores”.
“En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán”.
El Dr. Hinton también aceptó que su edad influyó en su decisión de dejar la compañía tecnológica, diciéndole a la BBC: “Tengo 75 años, así que es hora de retirarme”.
La investigación pionera del Dr. Hinton en redes neuronales y aprendizaje profundo ha allanado el camino para los sistemas de IA actuales como ChatGPT.
En inteligencia artificial, las redes neuronales son sistemas similares al cerebro humano en la forma en que aprenden y procesan información. Permiten que las IA aprendan de la experiencia, como lo haría una persona. Esto se llama aprendizaje profundo.
El psicólogo cognitivo y científico de la computación británico-canadiense le dijo a la BBC que los chatbots pronto podrían superar el nivel de información que tiene un cerebro humano.
“En este momento, lo que estamos viendo es que cosas como GPT-4 superan a una persona en la cantidad de conocimientos generales que tienen y lo hacen por mucho. En términos de razonamiento, no es tan bueno, pero ya hace razonamientos simples”, dijo.
“Y dado el ritmo de progreso, esperamos que las cosas mejoren bastante rápido. Así que debemos preocuparnos por eso”.
En el artículo del New York Times, el Dr. Hinton mencionó a los “actores malintencionados” que podrían intentar usar la IA para hacer “cosas malas”. Cuando se le preguntó sobre esto en una entrevista con la BBC, respondió que se trata de un escenario de pesadilla o el peor de los casos posibles. Explicó que podríamos imaginar a algún actor malintencionado, como el presidente ruso Vladimir Putin, dándoles a los robots la capacidad de crear sus propios subobjetivos, lo que podría eventualmente llevar a que busquen más poder.
El científico advirtió que la inteligencia que estamos desarrollando es muy diferente de la que tenemos. Los sistemas digitales tienen muchas copias del mismo modelo del mundo y pueden aprender por separado, pero compartir su conocimiento instantáneamente, lo que les permite saber mucho más que una sola persona. Matt Clifford, presidente de la Agencia de Investigación y Invención Avanzada del Reino Unido, dijo en una entrevista con la BBC que el anuncio del Dr. Hinton destaca la velocidad a la que están avanzando las capacidades de la IA y que es esencial que el mundo invierta en la seguridad y el control de la IA.
El Dr. Hinton se une a un creciente número de expertos que han expresado preocupaciones sobre la IA, tanto en términos de la rapidez con la que se está desarrollando como en la dirección que está tomando.
Necesitamos deternos un poco
En marzo, una carta abierta – firmada por docenas de personas en el campo de la IA, incluido el multimillonario tecnológico Elon Musk – pidió una pausa en todos los desarrollos más avanzados que la versión actual del chatbot de IA ChatGPT para que se pudieran diseñar e implementar medidas de seguridad sólidas.
Yoshua Bengio, otro llamado “padrino” de la IA, quien junto con el Dr. Hinton y Yann LeCun ganó el Premio Turing de 2018 por su trabajo en aprendizaje profundo, también firmó la carta.
El Sr. Bengio escribió que era debido a la “aceleración inesperada” en los sistemas de IA que “necesitamos dar un paso atrás”.
Pero el Dr. Hinton le dijo a la BBC que “a corto plazo” pensaba que la IA ofrecería muchos más beneficios que riesgos, “así que no creo que debamos dejar de desarrollar esto”, agregó.
También dijo que la competencia internacional significaría que una pausa sería difícil. “Incluso si todos en EE. UU. dejaran de desarrollarlo, China simplemente obtendría una gran ventaja”, dijo.
El Dr. Hinton también dijo que era un experto en ciencia, no en política, y que era responsabilidad del gobierno garantizar que la IA se desarrollara “con mucho pensamiento sobre cómo evitar que se vuelva rebelde”.
Un enfoque responsable
El Dr. Hinton enfatizó que no quería criticar a Google y que el gigante tecnológico había sido “muy responsable”.
“Realmente quiero decir algunas cosas buenas sobre Google. Y son más creíbles si no trabajo para Google”.
En un comunicado, el científico principal de Google, Jeff Dean, dijo: “Seguimos comprometidos con un enfoque responsable hacia la inteligencia artificial. Continuamos aprendiendo para comprender los riesgos emergentes mientras innovamos con valentía”.
Es importante recordar que los chatbots de inteligencia artificial son solo un aspecto de la inteligencia artificial, aunque sean los más populares en este momento.
La IA está detrás de los algoritmos que dictan lo que las plataformas de streaming de video deciden que deberías ver a continuación. Se puede utilizar en la selección de candidatos en el proceso de contratación, por las aseguradoras para calcular las primas, puede diagnosticar enfermedades (aunque los médicos humanos siguen teniendo la última palabra).
Lo que estamos viendo ahora es el surgimiento de la inteligencia artificial general (AGI), que puede ser entrenada para hacer varias cosas dentro de un ámbito. Por ejemplo, ChatGPT solo puede ofrecer respuestas de texto a una consulta, pero las posibilidades dentro de eso, como estamos viendo, son infinitas.
Pero la velocidad de aceleración de la IA ha sorprendido incluso a sus creadores. Ha evolucionado drásticamente desde que el Dr. Hinton construyó una red neuronal pionera de análisis de imágenes en 2012.
Incluso el jefe de Google, Sundar Pichai, dijo recientemente en una entrevista que ni siquiera entendía completamente todo lo que su chatbot de IA, Bard, hacía.
No hay duda de que estamos en un tren de alta velocidad en este momento, y la preocupación es que algún día comenzará a construir sus propias vías.