La inteligencia artificial o IA es una de las tecnologías más innovadoras y demandadas del siglo XXI, pero también una de las que más energía consume. ¿Cómo se puede abastecer la creciente demanda de electricidad para impulsar las aplicaciones de IA, sobre todo las de generación de contenido, sin comprometer el medio ambiente y la sostenibilidad? Según el director de ingeniería de Meta para IA generativa, Sergey Edunov, la solución podría estar en la energía nuclear.
Edunov es uno de los responsables del entrenamiento de LlaMa 2, el modelo de lenguaje abierto de Meta. En una sesión de panel en el Digital Workers Forum en Silicon Valley, afirmó que solo harían falta dos nuevas centrales nucleares para cubrir la demanda de IA para todo este año y que esto era aceptable.
Este es el número centrales nucleares que se necesitan para alimentar a la IA durante todo un año
Al ser preguntado sobre si el mundo tiene suficiente capacidad para manejar las crecientes necesidades de energía de la IA, dijo: “Definitivamente, podemos resolver este problema”. Edunov aclaró que su respuesta se basaba solo en un cálculo aproximado que había hecho previamente.
Sin embargo, dijo que proporcionaba una buena estimación de cuánta energía se necesitaría para lo que se llama “inferencia” de la IA. La inferencia es el proceso por el que la IA se aplica en una aplicación para responder a una pregunta o hacer una recomendación.
El concepto de inferencia se diferencia del entrenamiento del modelo de IA, que es cuando un modelo se entrena con enormes cantidades de datos para que esté listo para hacer inferencias.
Edunov explicó cómo hizo su cálculo sencillo para el lado de la inferencia: Dijo que Nvidia, el proveedor líder de procesadores para IA, parece estar preparado para lanzar entre uno y dos millones de sus GPUs H100 el próximo año.
Si todas esas GPU se usaran para generar tokens para modelos de lenguaje de tamaño razonable, dijo que se generarían unos 100.000 tokens por persona en el planeta por día, lo que admitió que es bastante cantidad de tokens. Los tokens son las unidades básicas de texto que los modelos de lenguaje utilizan para procesar y generar lenguaje.
Pueden ser palabras, partes de palabras o incluso caracteres individuales, dependiendo de cómo se diseñe el modelo de lenguaje. Por ejemplo, la palabra “hola” puede ser un solo token, o puede dividirse en dos tokens: “ho” y “la”.
A continuación, Edunov estimó que cada token requeriría unos 10 microjulios de energía para ser generado, lo que daría un total de unos 10^15 microjulios por día para toda la humanidad. Dividiendo este número por el número de segundos en un día, obtuvo una potencia media de unos 10 gigavatios.
Comparando esta cifra con la potencia de una central nuclear típica, que es de unos 5 gigavatios, concluyó que solo harían falta dos centrales nucleares para alimentar la inferencia de la IA para el próximo año. Lógicamente, esto son estimaciones así que puede que para comprobarlo haya que hacerlo realidad.
El artículo ¿Cuántas centrales nucleares necesita Meta para alimentar su inteligencia artificial? Un ingeniero de la empresa tiene la respuesta fue publicado originalmente en Andro4all.
