Aprendiendo junto a las IA

Por: Gabriela Sofia Pérez de León

Desde la salida de las inteligencias artificiales de texto como lo son Chat GPT, el uso de estas herramientas se ha ido extendiendo alrededor del mundo y por los distintos sectores de la población

Esto gracias al fácil acceso hacia las mismas, las cuales se encuentran a un par de clicks de distancia, como casi cualquier otra herramienta de la web en la actualidad.

Mientras el panorama actual para algunas personas parece algo desastroso, pues afirman que las inteligencias artificiales serán capaces de desplazar a los humanos por completo de la mayoría de los puestos de trabajo, lo que les lleva a permanecer firmemente en contra del uso de las inteligencias artificiales por más mínimo que sea.

Por otro lado, existe un grupo de personas a que sienten un alivio en cuanto a temas que involucren la inteligencia artificial se refiere, pues han logrado percatarse de que el uso de la misma puede llegar a facilitar o realizar procesos completamente desde cero, los cuales de otra forma requieren de mucho tiempo y recursos.

Independientemente de la opinión popular o impopular y el debate que existe en cuanto a estos temas, lo cierto es que la inteligencia artificial ha venido para quedarse y está en cada quien el como utilizar las herramientas que esta brinda.

Fue pionero en la investigación de redes neuronales y aprendizaje profundo, que allanó el camino para el desarrollo de sistemas actuales de Inteligencia Artificial (IA) como ChatGPT.

¿Por qué tomó la decisión de renunc Google y hacer estas críticas contr desarrollo de la IA?

Habían varias razones. Una es que tengo 75 años, así que es hora de retirarme. Otra razón es que quiero decir algunas cosas buenas sobre Google y son creíbles si no trabajo para ellos. Y por último, quería tener la libertad hablar sobre los peligros de la IA preocuparme por el impacto que pueda tener en Google.

Usted dijo que Google actuó de manera muy responsable. ¿Habría sido más efectivo su mensaje si hubiera estado dentro de la compañía, con la capacidad de dirigir las decisiones?

Pensé eso por un tiempo y puede ser cierto. Pero creo que ahora puedo hablar libremente sobre cuáles podrían ser los peligros y algunos de ellos son bastante aterradores.

Lo importante es que muchos buenos científicos han trabajado en el tema de cómo podemos controlar estas cosas si llegan a ser más inteligentes que nosotros.

Podría interesarte

¿Confía en las empresas de tecnología para avanzar sobre estos temas con responsabilidad?

Creo que un problema es que Microsoft decidió poner uno de estos chatbots avanzados en (el buscador) Bing y en otros productos y Google no tiene más remedio que responder a eso. No puede simplemente sentarse y no competir con Microsoft.

Antes de eso, Google estaba a la cabeza de la IA y optó por no publicar estas cosas debido a todos los peligros. Los usaron internamente para mejorar la búsqueda, pero en realidad no los dieron a conocer al público, a pesar de que tenían chatbots, debido a los peligros potenciales.

Creo que Google ha sido responsable en ese sentido.

¿Quién es responsable de que la IA haya alcanzado el punto donde está ahora?

Somos científicos. Estamos explorando lo que sucede cuando entrenamos grandes redes neuronales de computadoras y por eso terminamos aquí.

Es una de esas cosas que no hay forma de que la gente no vaya a explorar. El problema es que ahora que descubrimos que funciona mejor de lo que esperábamos hace unos años, ¿qué hacemos para mitigar los riesgos a largo plazo? Cosas más inteligentes que nosotros tomando el control.

Usted dijo que le preocupan los malos actores. ¿Qué es lo que más le inquieta con respecto a cómo se podría utilizar esta tecnología?

Se ha hablado mucho sobre la posibilidad de producir automáticamente textos con información falsa. Se pueden crear herramientas muy efectivas que permitan a líderes autoritarios manipular a sus electores, por ejemplo.

Pero quiero hablar en particular del riesgo existencial de lo que sucede cuando estas cosas se vuelven más inteligentes que nosotros. Recientemente llegué a la conclusión de que el tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos.

¿Cómo podemos estar seguros de que lo que acaba de describir eclipsa a la inteligencia humana?

No lo sabemos. En este momento lo que estamos viendo son cosas como que Chat GPT-4 eclipsa a una persona en la cantidad de conocimiento general.

En términos de razonamiento no es tan bueno, todavía no hace un razonamiento simple.

¿Qué pasa con las oportunidades que ofrece esta tecnología?

Esa es una de las razones por las que he estado trabajando en IA tanto tiempo, porque va a ser extremadamente beneficioso para cosas como esa.

La capacidad de estos grandes chatbots de saber mucho más que nadie los haría mejores que el médico de familia estándar. Serían como un médico que ha visto a diez millones de pacientes y probablemente esté viendo a muchos con los mismos problemas por los que tú acudes al médico.

Podría interesarte

Qué es la misteriosa “caja negra” de la inteligencia artificial que desconcierta a los expertos (y por qué aún no entendemos cómo aprenden las máquinas)

¿Cuál es el equilibrio entre el riesgo y el beneficio?

A corto plazo, creo que obtenemos muchos más beneficios que riesgos. No creo que debamos dejar de desarrollar estas cosas (...) Ver sus usos puede ser muy beneficioso y eso alentará a las personas a seguir desarrollándola.

Pero debemos pensar detenidamente en cómo podemos desarrollarla sin que pueda ser controlada.

Qué pueden hacer las autoridades para cambiar la dirección de los acontecimientos si hay un problema?

Soy un experto en la ciencia, no en política. Lo que diga sobre esto no proviene de una experticia, pero debe haber algo que puedan hacer. Tiene que ser el gobierno el que desarrolle (esta tecnología) con mucha reflexión sobre cómo detenerla si se rebela.