El director ejecutivo de la empresa de inteligencia artificial generativa Anthropic ha dicho que se prevén centros de datos de 100 mil millones de dólares en el futuro.
Dario Amodei, quien cofundó la empresa en 2021 después de dejar OpenAI, analizó el crecimiento del tamaño de los clústeres de centros de datos durante un podcast de cinco horas con Lex Fridman.
"En este momento, creo que la mayoría de las empresas del modelo de frontera, supongo, están operando en una escala de aproximadamente mil millones de dólares, más o menos un factor de tres", dijo Amodei.
"Esos son los modelos que existen ahora o que se están poniendo en práctica ahora. Creo que el año que viene vamos a llegar a unos pocos miles de millones [de dólares], y en 2026, podremos llegar a más de 10 mil millones de dólares. Y probablemente para 2027, sus ambiciones de construir clústeres de 100 mil millones de dólares. Creo que todo esto sucederá."
OpenAI ha sido el más público en cuanto a sus deseos de tener un centro de datos de 100 mil millones de dólares. DCD fue el primero en publicar un documento que la compañía compartió con la Casa Blanca promocionando el beneficio económico de un centro de datos de 5 GW en varios estados diferentes.
Esa instalación teórica ocuparía unos 2.787.100 metros cuadrados y contaría con unos dos millones de GPU. El centro de datos individual sería casi tan grande como la superficie y la capacidad combinadas de AWS o Microsoft de hace apenas un año.
Una fuente de OpenAI dijo a DCD en septiembre que la cifra de 5 GW era "ilustrativa del nivel de escala que nosotros y muchos creemos que se necesita", pero señaló que no era definitiva.
OpenAI ahora está adoptando un enfoque más práctico para encontrar capacidad en centros de datos y utilizará un centro de datos de 1 GW en Texas que está siendo construido por Crusoe, utilizado por Oracle y alquilado por Microsoft.
No está claro si un centro de datos de 5 GW es económicamente viable ni si un sistema de este tipo podría generar energía. En un principio se informó de que Microsoft estaba considerando construir la instalación para OpenAI, algo que ha sido cuestionado. Sin embargo, Microsoft es una de las pocas empresas que pueden permitirse un proyecto de este tipo.
Amodei y otros fundadores de Anthropic abandonaron OpenAI en parte debido a la mayor participación de Microsoft en la entonces organización sin ánimo de lucro. Desde entonces, Anthropic ha recaudado 2.300 millones de dólares de Google y 4.000 millones de Amazon Web Services, y utiliza principalmente la nube de esta última empresa.
AWS está considerando invertir otros mil millones de dólares en el negocio, en un acuerdo que vería a Anthropic utilizar chips Trainium.
El gigante de la nube está construyendo actualmente un campus de centro de datos de 10.000 millones de dólares en el condado de Madison, Mississippi. En julio, dijo que invertiría 100.000 millones de dólares en centros de datos durante la próxima década.
Sin embargo, tanto OpenAI como Google han descubierto que las leyes de escalabilidad pueden tener límites: el simple hecho de aumentar la computación junto con los datos y la red conduce a un mejor modelo. Esto puede afectar los planes para crear clústeres de centros de datos cada vez más grandes.