© magazineSistema de IA principiante
Goertzel también explica a Magazine que cree que OpenAI probablemente ha evitado convertir su «impresionante» nuevo modelo o1 en un agente autónomo por miedo a que se considere «arriesgado y peligroso» y provoque la intervención de los organismos reguladores.
La Alianza para la Superinteligencia Artificial se formó en marzo de este año y reúne el proyecto SingularityNET de Goertzel, Ocean Protocol y FetchAI, del veterano de DeepMind Humayun Sheikh.
Esta semana, el 96% de los votantes de CUDOS aprobaron la fusión de la red descentralizada de hardware en la nube con ASI. La fusión aumentará la capacidad de cálculo disponible para los planes de Goertzel de ampliar OpenCog Hyperon, el sistema de inteligencia artificial general (AGI) en el que lleva trabajando desde 2001 y que lanzó como marco de IA de código abierto en 2008.
© FentonGoertzel en el escenario con la robot cantante de tres patas Desdemona (Fenton)
OpenCog Hyperon y el futuro de la inteligencia artificial general
Hace tres años, el proyecto se embarcó en una reconstrucción total de OpenCog en «busca de una escalabilidad masiva, y estamos muy avanzados en ese proceso», afirma. La versión Alpha se lanzó en abril y, aunque dice que actualmente es muy lenta y se esperan «cambios radicales», el equipo está trabajando en «acelerarla masivamente. Creo que debería estar terminada este otoño. Y entonces, es decir, el año que viene, nos pondremos manos a la obra para intentar construir AGI en la nueva infraestructura de Hyperloop».
Goertzel afirma que el sistema adopta un enfoque diferente al de los grandes modelos de lenguaje (LLM) como GPT-4 y o1.
«Un sistema Hyperon no es sólo un chatbot. Está diseñado como una especie de agente autónomo que tiene sus propios objetivos y su propia conciencia de sí mismo e intenta saber quién es y quién eres tú, qué está intentando conseguir en una situación determinada. Es más un agente autónomo y consciente de sí mismo que un mero sistema de respuesta a preguntas».Los sistemas AGI necesitan conciencia de sí mismos para ser autónomos
Un momento, ¿dice Goertzel que el modelo actual es consciente de sí mismo?
Lo que quiero decir con consciente de sí mismo es que desde el principio, incluso en las versiones actuales, tiene un modelo de quién es. Tiene un modelo de quién eres tú. Tiene ciertos objetivos que está tratando de lograr en la situación. Sabe cómo se relaciona con esa situación y lo que está tratando de hacer. Y un sistema del tipo ChatGPT no está haciendo eso realmente bien».El sistema combina un motor de razonamiento lógico, aprendizaje evolutivo de programas y redes neuronales profundas implementadas en un grafo de conocimiento dinámico que se revisa y modifica a sí mismo. (GPT-4 explica lo que eso significa más abajo).
Por cierto, Goertzel afirma que la falta de un modelo del mundo explica por qué ninguno de los agentes autónomos de IA construidos hasta ahora ha funcionado realmente. No se puede simplemente coger un «sistema de respuesta a preguntas» y decirle «eres un agente que interactúa con el mundo».
El o1 de OpenAI y el riesgo normativo
Con todo el bombo y platillo sobre el comportamiento autónomo similar al de un agente con OpenAI y «Strawberry», Goertzel cree que OpenAI evitó deliberadamente tomar ese camino con el modelo o1 que se ha lanzado.
«Está intentando ser bueno en razonamiento y lógica, y es muy bueno en eso. Me encanta. Es muy impresionante. No intenta ser un agente autónomo. Eso es una cosa diferente a propósito. Creo que no quieren hacerlo, porque parecería arriesgado y peligroso, y los reguladores intentarían pisotearlos. Lo último que quieren es hacer un agente autónomo».Lo cual es una de las ventajas de desarrollar un sistema descentralizado de código abierto. Los reguladores no pueden «pisotearlo» de la misma manera.
«Cuando lancemos sistemas avanzados de IA, estarán funcionando en las máquinas repartidas por todos los continentes, en 50 ó 100 países diferentes. Así que si un país decide que OpenCog Hyperon es ilegal, sólo será una pequeña fracción de la red».
Desde nuestra entrevista en Token2049 la semana pasada, el CEO de OpenAI, Sam Altman, publicó un ensayo en el que pinta un retrato de una utopía futura llamada la «Era de la Inteligencia» propiciada por la AGI. Goertzel también espera que la AGI benevolente que está intentando construir sea tan útil que nadie quiera prohibirla.
«Creo que puede ser algo mucho más inteligente que lo que está haciendo la Big Tech. Así que si podemos conseguir algo mucho más inteligente que el modelo OpenAI, o1 utilizando Opencog Hyperon, y podemos desplegarlo en una red descentralizada, quiero decir, entonces el mundo se lanzará a ello de la misma manera en que se lanzaron a ChatGPT, y entonces utilizarán la red descentralizada, sólo de paso, porque resulta que está en la infraestructura subyacente».Retos y ventajas de los sistemas descentralizados de IA
La tensión en el corazón de los proyectos descentralizados de IA es que es mucho más fácil y barato ejecutar grandes modelos utilizando equipos centralizados.
El entrenamiento de redes neuronales y transformadores en equipos descentralizados es actualmente un imposible, aunque Goertzel afirma que las nuevas investigaciones sugieren que es factible.
Pero afirma que el razonamiento lógico y el aprendizaje evolutivo mediante algoritmos «funcionan de forma muy natural en una red descentralizada de máquinas».
El plan parece consistir en impulsar la red con algunas instalaciones más centralizadas, al tiempo que se aumenta la capacidad de cálculo con la red descentralizada. SingularityNET y Fetch han gastado «una fracción significativa» de los 100 millones de tokens ASI (que actualmente se están rebautizando como FET) en la compra de GPU para construir superordenadores. Gastarán el resto cuando se recuperen los precios de los tokens.
«Queremos que sea una especie de centro inicial de la red descentralizada para ponerla en marcha. Queremos ofrecer alojamiento a la gente que quiera poner agentes de IA en SingularityNET».La visión es una solución en la nube compatible con Web3 como Hugging Face.
«Los desarrolladores de IA sólo quieren la forma más rápida, barata y sencilla de ofrecer una función determinada. Si quieres que sea descentralizada, de alguna manera tienes que hacerla más atractiva para los usuarios finales por razones distintas a la filosofía de la descentralización.»Entre los cuatro proyectos de la Alianza, Goertzel calcula que pronto dispondrán de «un par de cientos de millones de dólares de hardware informático dedicado». La computación adicional puede obtenerse de NuNet, spin-off de SingularityNET, que utiliza la potencia ociosa de CPU y GPU de ordenadores conectados, y de Hypercycle, que es una plataforma que conecta servicios de IA.
Energía renovable para alimentar sistemas de IA descentralizados
Bryan Pellegrino, de LayerZero, pasó una década trabajando en IA y dijo a Magazine durante la Korea Blockchain Week que su experiencia con los precios de la electricidad que afectan a sus beneficios de minería de Bitcoin le ha dejado con grandes reservas sobre la IA descentralizada.
«Es muy difícil conseguir las economías de escala de computación [necesarias], o el coste del hardware subyacente [hacia abajo], en un mundo en el que estás compitiendo contra Google y AWS y todos estos otros, y sólo cómo hacen su enfriamiento y todo, desde el coste de la electricidad hasta el final. Así que siempre he sido pesimista en la mayoría de los diferentes segmentos de la intersección».Pero Goertzel dice que el coste de la electricidad palidece en comparación con el coste de los equipos por lo que «no estoy de acuerdo en que es un imposible.»
© FentonEl fundador de SingularityNET, el doctor Ben Goertzel, a los teclados con su sorprendentemente buena banda liderada por robots.
«Hemos hablado con gente del Gobierno etíope sobre la posibilidad de instalar varios servidores allí, cerca de la presa. Toufi (Saliba, CEO), de Hypercycle, está en conversaciones con el Gobierno de Paraguay para poner un montón de centros de datos de IA y granjas de servidores junto a la presa en la frontera entre Brasil y Paraguay. Quiero decir, es una cosa de conseguir múltiples gigavatios de energía directamente en su centro de cómputo de IA poniendo su centro de cómputo al lado de la presa con un cable gordo a la misma».Desde luego que lo es. Para subrayar la magnitud de la electricidad necesaria, esta semana se ha sabido que Sam Altman, CEO de OpenAI, ha presentado a la Casa Blanca un plan para construir enormes centros de datos en varios estados de EE.UU., cada uno de los cuales necesitaría 5 gigavatios de energía, el equivalente a la producción de cinco reactores nucleares.
Los centros de datos de IA suelen estar situados cerca de las grandes áreas metropolitanas, ya que los servicios requieren una baja latencia para ofrecer respuestas ultrarrápidas. Sin embargo, Goertzel señala que el modelo o1 ha priorizado la calidad de las respuestas sobre la velocidad, y Opencog Hyperon también lo hará.
«Si tienes IA que está tratando de hacer cualquier tipo de pensamiento profundo, digamos que la IA está tratando de predecir la dirección del mercado durante el día siguiente, ¿verdad? O la IA está tratando de descubrir un nuevo medicamento, ¿verdad? Entonces no importa si está en Paraguay o Etiopía o donde sea».
Comentarios del Lector
a nuestro Boletín