La investigadora que destripa el mito de OpenAI y Sam Altman: Las multinacionales de IA aceleran el retroceso democrático

La periodista Karen Hao desentraña en El Imperio de la IA cómo estas empresas replican dinámicas coloniales, “extrayendo una cantidad extraordinaria de recursos, explotando una cantidad extraordinaria de mano de obra y participando en actividades que no benefician en nada a la mayoría”Tres años de ChatGPT: la máquina que no pudo quitarte el trabajo ahora va a por tus secretos Hace tres a os, OpenAI era una organizaci n pr cticamente desconocida para el gran p blico que aspiraba a contrarrestar el poder de los gigantes de Silicon Valley. Hoy, es la startup m s valiosa de la historia, superando los 500.000 millones de d lares. Tres a os en los que la compa a dirigida por Sam Altman ha pasado de presentarse como un laboratorio tecnol gico que trabajaba por el bien de la humanidad a convertirse en una empresa privada con agenda geopol tica propia, con acceso masivo a informaci n personal de millones de personas y trato preferente con los poderes p blicos. La periodista estadounidense Karen Hao ha cubierto esta transformaci n para medios como el Wall Street Journal o el MIT Technology Review. En su libro El Imperio de la IA. Sam Altman y su carrera por dominar el mundo (editorial Pen nsula), Hao ha investigado c mo OpenAI y la industria de la IA han pasado a funcionar con una l gica imperial: colonizan recursos, extraen datos de los usuarios y explotan mano de obra precaria en el Sur Global para alimentar una maquinaria que, denuncia, est acelerando el retroceso democr tico en todo el mundo . En esta entrevista con elDiario.es, Hao describe a OpenAI, los secretos de su l der y la burbuja financiera y de expectativas que est impulsando el desarrollo de la inteligencia artificial. Cuenta en el libro que, en sus or genes, OpenAI se ve a a s misma como la anti-Google . En qu consist a esa visi n de empresa inicial? En realidad creo que la visi n de la compa a en aquel entonces era similar a la que es hoy: OpenAI siempre ha querido dominar el desarrollo de la IA y ser el l der n mero uno en esta tecnolog a. En ese momento, Google era el nico actor al que val a la pena vencer, as que se ve an a s mismos como su nico competidor, y a Google como el nico al que deb an intentar superar. Por eso se concibieron a s mismos como la anti-Google que iba a representar todo lo que Google no era. Otra raz n por la que hicieron eso fue porque era una t ctica de reclutamiento. Inicialmente, para construir un laboratorio de IA l der, el principal cuello de botella era el talento, por lo que quer an averiguar c mo conseguir que la gente dejara Google y se uniera a OpenAI, o eligiera OpenAI sobre Google si se postulaban para trabajar en ambas empresas. As que lo plantearon todo como: bueno, Google es de c digo cerrado, nosotros seremos ab Google trabaja con fines de lucro, nosotros seremos sin fines de lucro . La idea era: si quieres crear productos para un megagigante, bien, ve a Google, pero si vienes a OpenAI, podr s cambiar el mundo. C mo se ven dentro de OpenAI esas contradicciones respecto a la visi n inicial, con la transformaci n en una empresa privada con nimo de lucro? Crees que puede haber alguien que piense que al final se han convertido en todo aquello que prometieron cambiar? S , por supuesto, OpenAI aparentemente ha revertido por completo todo lo que dijo que ser a. Ahora es, obviamente, una empresa con fines de lucro en lugar de una organizaci n sin nimo de lucro, y la startup m s valiosa del mundo en este momento, con una valoraci n de 500.000 millones de d lares. Tambi n se ha vuelto hipersecreta, aunque originalmente dijo que ser a transparente. As que, en esas formas m s superficiales, ha cambiado por completo. Y, sin embargo, sigue persiguiendo exactamente lo mismo que en aquel entonces, que es dominar el desarrollo de la IA. Sam Altman ha dicho muchas veces que es importante tener grandes convicciones en un objetivo particular, pero que debes ser flexible con tus t cticas. Y eso es esencialmente lo que est haciendo con OpenAI; alta convicci n en los objetivos, pero flexible en las t cticas. El objetivo final es el dominio, y las t cticas han cambiado de sin fines de lucro a con fines de lucro. OpenAI también se ha vuelto una empresa hipersecreta, aunque originalmente dijo que sería transparente Otra de las cosas que dijeron que nunca har an ser a vender los datos personales de la gente. Cree que tambi n lo terminar n haciendo? S . Adem s, t cnicamente, ya est n ganando dinero con los datos de la gente, en el sentido de que ya est n utilizando los datos de las personas para entrenar las pr ximas generaciones de sus modelos de IA. Modelos que luego venden a trav s de suscripciones. Pero hablando m s concretamente del negocio de la publicidad digital, vemos que OpenAI est prepar ndose tambi n para la publicidad. Est n a adiendo un feed algor tmico a ChatGPT, lanzaron Sora 2, una aplicaci n como TikTok con el contenido generado por IA, y b sicamente est n creando espacios, superficies, en las que pueden empezar a insertar anuncios. Y eso creo que conducir al 100% a que utilicen los datos de los usuarios para averiguar c mo segmentar mejor esos anuncios. ChatGPT ha cumplido tres a os recientemente. Usted ya cubr a la industria de la inteligencia artificial antes de su salida a luz: c mo cree que ha evolucionado ChatGPT y el sector de la IA en estos tres a os? El mundo ha cambiado. Ahora todo el mundo habla de IA, y todo el mundo tiene una concepci n de la IA como ChatGPT, por lo que todas estas empresas y todos estos pa ses se apresuran a intentar crear su propia versi n de ChatGPT, olvidando todos los dem s tipos de tecnolog as, incluso otras tecnolog as de IA que no son chatbots. Y la otra forma en que el mundo ha cambiado es, como expongo en mi libro, en que estas multinacionales ahora son como imperios. Est n extrayendo una cantidad extraordinaria de recursos, explotando una cantidad extraordinaria de mano de obra y participando en actividades por todo el mundo de formas que no benefician en nada a la mayor a de las personas. De esta forma, otra de las cosas que han cambiado es que estas empresas est n siendo otro acelerador m s en la tendencia de retroceso democr tico en todo el mundo. Creo que estos imperios est n contribuyendo activamente a esa tendencia. Las empresas de IA están participando en todo tipo de actividades que no benefician a las personas Al principio parec a que ChatGPT era el centro de toda la industria, hoy parece solo uno m s. S , creo que ChatGPT definitivamente est siendo... hay muchos m s competidores ahora que est n tratando de comerse el dominio del mercado de ChatGPT. Por supuesto, tenemos a Gemini, tenemos a Claude de Anthropic y tambi n vemos m s empresas que comienzan a inclinarse hacia aplicaciones especializadas en lugar de solo estos ch Anthropic enfoc ndose realmente en la generaci n de c digo, en lugar de ser solo una herramienta puramente gen rica orientada al consumidor. O Google, enfoc ndose m s en la empresa en lugar de apoyar a las labores de las personas. ChatGPT tambi n est teniendo su propia transformaci n, inicialmente la gente pensaba que era m s una herramienta de b squeda, pero hemos visto esta tendencia realmente preocupante donde m s y m s personas comienzan a considerar a ChatGPT como un terapeuta, un mentor o un amante. Es algo que OpenAI no ha evitado, m s bien se ha estado inclinando hacia eso tambi n. Eso es una evoluci n de la que tendremos que estar muy pendientes en los pr ximos a os. Fotografía de archivo del CEO de OpenAI, Sam Altman, en el centro de la imagen. C mo explicar a a la gente c mo es Sam Altman? Es un tipo extremadamente carism tico que entiende muy, muy bien la psicolog a humana. Es capaz de decirle a la gente lo que necesita escuchar para motivarla a unirse a cualquier misi n que l est tratando de perseguir. Eso incluye conseguir que los inversores le den mucho dinero o conseguir que la gente se convierta en empleada de sus empresas. As que es tanto un talento singular para la recaudaci n de fondos como un reclutador muy, muy bueno. Y no es solo porque entiende la psicolog a humana, tambi n porque es muy bueno contando esas grandes historias sobre el futuro y la IA, que son atractivas y que hacen que la gente quiera darle m s y m s recursos para lograrlo. Altman es un tipo extremadamente carismático que entiende muy, muy bien la psicología humana. Es capaz de decirle a la gente lo que necesita escuchar para motivarla a unirse a cualquier misión Lo comparar a con alguna figura hist rica, o quiz con alguna otra persona de la industria digital? Bueno, l mismo ha hablado de c mo le encantaba leer un libro de citas de Napole n. Y lo que sac de ese libro fue que Napole n era un conocedor extremadamente bueno de la psicolog a humana, y us eso para ganar mucho poder. As que creo que los paralelismos se escriben solos. Personalmente, usted que ha podido investigar en profundidad al personaje, se siente c moda con el hecho de que Altman se convierta en uno de esos emperadores de las grandes tecnol gicas? Con que acumule tanto poder e influencia? No me siento c moda con que nadie ocupe tanto poder sin rendici n de cuentas. En el libro critico a Altman y su enfoque, pero no creo que el problema se resolviera si simplemente cambi ramos a Altman por otra persona. Porque el sistema de poder todav a existe, donde quienquiera que se siente en esa mesa puede tomar decisiones que afectan a la vida de miles de millones de personas en todo el mundo. Y esos miles de millones de personas no tienen voz sobre si les gustan esas decisiones o no. Para m , es mucho m s preocupante, no que Altman est al tim n, sino que exista incluso este rol que pueda permitir a alguien ejercer esa cantidad de influencia a nivel mundial. Una de las t cticas que Altman y OpenAI utilizan a menudo para convencer a otros de que inviertan en sus proyectos es la Inteligencia Artificial General, es m quina consciente y capaz de mejorarse a s misma que podr a superar a la humanidad. Usted ha tenido un acceso privilegiad a la compa a: desde dentro, creen de verdad que la IA general es posible e incluso cercana? Esto fue lo que m s me sorprendi de mi investigaci n: yo pensaba que era solo una herramienta de marketing, pero en realidad hay facciones muy poderosas dentro de estas empresas y dentro de la industria en general que realmente creen que la IA general es posible y que es inminente. Y creo que eso es lo que hace que este ecosistema sea tan fascinante y complejo, porque tienes a las personas que empujan hacia este objetivo por una fe sincera y luego tienes a las personas que lo est n aprovechando pol ticamente para protegerse de la regulaci n y usarlo como un truco de marketing. Esto fue lo que más me sorprendió de mi investigación: yo pensaba que el discurso sobre la IA general era solo una herramienta de marketing, pero en realidad hay facciones muy poderosas dentro de estas empresas y dentro de la industria en general que realmente creen que la IA general es posible y que es inminente Menciona la fe sincera de esas personas de la industria tecnol gica. En los ltimos tiempos se est hablando mucho m s de la tecnorreligi n de Silicon Valley, esa creencia casi religiosa en la tecnolog a digital como soluci n a todos los problemas de la sociedad. Cree que esa fe est influyendo en todo esto? Creo que tiene una influencia extraordinaria, s . Y es parte de la raz n por la que creo que la analog a con los imperios tambi n es muy relevante, porque la mayor a de los imperios hist ricos tambi n fueron impulsados en su expansi n por creencias religiosas. Lo interesante es que en esta religi n hay dos facciones. Las personas que piensan que necesitamos pisar el acelerador porque la IA general nos llevar al cielo y solo nos traer utop a y bie y luego las personas que piensan que nos llevar al infierno si la desarrolla la persona equivocada. Y en el libro digo que estas son dos caras de la misma moneda, porque en realidad solo est n leyendo de la misma Biblia con diferentes interpretaciones, de la misma manera que hay muchas facciones del cristianismo, algunas que leen la Biblia enfocadas en llegar al cielo y otras que leen la Biblia enfoc ndose en el hecho de que hay un infierno. Entre esas personas hay cient ficos como Ilya Sutskever, ex jefe Cient fico de OpenAI, una de las mentes de referencia sobre IA. Tienen un discurso serio realmente en torno a este tema? Sutskever, por ejemplo, afirma que la IA general ayudar a contrarrestar el cambio clim tico, pero a la vez dicen que si llega, el planeta pasar a a estar completamente cubierto de centros de datos en pocos a os. No parece muy congruente. Creo que Sutskever y algunos de estos otros investigadores de IA tienen mucha coherencia en cuanto a su teor a de la investigaci n de IA. Pero, ya sabes, no son exactamente expertos en otras cosas, as que ah es donde la coherencia podr a desmoronarse: cuando empiezan a hablar de c mo interact a con el mundo real. Pero para Sutskever, l siempre ha cre do muy firmemente que el cerebro es un motor estad stico y que las redes neuronales son una representaci n precisa de c mo funciona el cerebro. E l siempre ha pensado que mientras podamos meter m s y m s datos en estas redes neuronales, eso conducir a la recreaci n de la inteligencia humana. Dio una charla el a o pasado en la que mostr unos papers sobre c mo el tama o del cerebro se correlaciona con la inteligencia de la especie. Su teor a es que simplemente tienes que construir un cerebro m s grande y entonces obtienes un sistema m s inteligente. El problema es, por supuesto, que en realidad no sabemos si eso es cierto, si las redes neuronales realmente modelan el cerebro y si el tama o del cerebro es realmente lo nico que conduce a m s inteligencia, pero esa es la creencia de Sutskever y por eso ha centrado toda su investigaci n en esto. Karen Hao y la portada de su libro Esa es la teor a de Sutskever, y tras la publicaci n de su libro OpenAI se ha embarcado en proyectos de inversi n fara nicos para generar m s capacidad de c mputo. Cree que ese escalado masivo es el camino correcto para llegar a la IA General? Para m , la raz n por la que no deber amos estar escalando es en realidad una cuesti n m s fundamental que simplemente si nos llevar a la IA general. No creo que debamos intentar llegar a la IA general, independientemente de si podemos llegar all , porque el prop sito de construir tecnolog as es servir a las personas, no reemplazar a las personas. Y la b squeda de la IA general es en ltima instancia lograr una inteligencia a nivel humano y automatizar muchas de las cosas que la gente puede hacer. As que s , encuentro que toda esta empresa de escalado es innecesaria para lograr la IA general y tambi n inmoral, porque no deber amos estar intentando lograrla en primer lugar. Adem s, est conduciendo a una cantidad extraordinaria de degradaci n ambiental y da o a la salud p blica de las personas, en un momento en que en realidad ya no tenemos mucho tiempo para resolver la crisis clim tica. Encuentro que toda esta búsqueda de la IA general es inmoral, no deberíamos estar intentando lograrla. Conduciendo a una cantidad extraordinaria de degradación ambiental y daño a la salud pública de las personas, en un momento en que ya no tenemos mucho tiempo para resolver la crisis climática Por cosas como esta, cree que la confianza general sobre OpenAI podr a cambiar r pidamente entre el p blico general? Con el resto de tecnol gicas hemos visto el proceso de c mo empiezan vi ndose como disruptivas y luego su mala imagen las lleva incluso a cambiarse el nombre, como Facebook y Meta. Parece que eso est sucediendo a toda velocidad con OpenAI. S , creo que ya ha sucedido. No creo que OpenAI tenga ya una reputaci n muy positiva en muchos lugares. En EEUU hay muchos padres, por ejemplo, que se han enfadado mucho con la empresa debido a los impactos en la salud mental que estas herramientas est n teniendo en los ni os. Hay muchas comunidades de clase trabajadora que est n realmente enfadadas por los centros de datos que est n llegando a sus comunidades. Hemos visto un cambio dram tico en la opini n p blica solo en los ltimos meses, y creo que eso va a continuar, porque lo que pasa con el imperio es que, a medida que contin a su construcci n, continuar extrayendo y explotando a m s y m s comunidades. Y eso es lo que va a llevar a que cada vez m s y m s de ellas se vuelvan contra la empresa. En el libro tambi n trata en detalle la explotaci n sist mica de trabajadores para entrenar a los modelos, como el caso de Mofat en Kenia. Sobre c mo el modelo de negocio de OpenAI depende del capitalismo del desastre. S , en este caso todas las empresas, no solo OpenAI, cuando entrenan sus modelos de IA, requieren contratar a decenas de miles de trabajadores de todo el mundo, y esto es algo que exist a antes de ChatGPT. Existen firmas de terceros que hacen el trabajo de conectar a empresas como OpenAI con estos trabajadores. Son plataformas que tratan de buscar la mano de obra m s barata en el mercado global. De lo que se dieron cuenta es que la mejor manera de encontrar la mano de obra m s barata es ir a los lugares m s pobres y desesperados del mundo. Inicialmente, eso fue Venezuela, donde la econom a estaba en un estado desastroso, pero la poblaci n tambi n estaba altamente educada y ten a alta conectividad. A medida que la econom a de Venezuela comenz a recuperarse ligeramente, el trabajo se traslad a otros lugares m s desfavorecidos durante la pandemia, cuando otros pa ses estaban cayendo en picado, como Kenia. La historia de Mofat ilustra una vez m s la l gica del imperio, porque OpenAI es una empresa valorada en 500.000 millones de d lares y, sin embargo, contratan trabajadores para realizar un trabajo esencial para el xito de ChatGPT pag ndoles solo unos pocos d lares la hora. Muchos de ellos terminaron psicol gicamente devastados por este trabajo y sus familias se desmoronaron. As funciona el capitalismo de desastre en muchos sentidos. OpenAI es una empresa valorada en 500.000 millones de dólares y, sin embargo, contratan trabajadores para realizar un trabajo esencial para el éxito de ChatGPT pagándoles solo unos pocos dólares la hora Esas personas cuentan con muy poca formaci n sobre c mo entrenar a la IA. Es posible que los modelos tengan m s alucinaciones o sean m s imprecisos por esta situaci n? Es una pregunta interesante. Creo que los modelos son m s imprecisos principalmente porque las empresas en realidad no enfatizan la precisi n. Hemos visto que las actualizaciones de los modelos de OpenAI a veces se vuelven menos precisas a medida que avanzan las nuevas generaciones de GPT. As que no creo que est necesariamente ligado a los trabajadores en s ; son principalmente los incentivos de las empresas, as como la tecnolog a misma. Esta es una tecnolog a probabil stica, por lo que es inherentemente propensa a errores. Es imposible garantizar que vaya a decir lo correcto el 100% de las veces. Cree que hay una burbuja en la inteligencia artificial? Creo que hay una gran burbuja. No veo c mo estas empresas van a ser capaces de cumplir sus compromisos o averiguar c mo obtener un retorno de sus inversiones. OpenAI ha comprometido 1,4 billones de d lares de gasto en los pr ximos a os y ha generado, como m ximo, unos 20.000 millones en ingresos. Esa es una brecha extraordinaria y OpenAI se est quedando sin ideas para cerrarla. Intentaron el modelo de suscripci n y encontraron que aproximadamente solo el 5% de los usuarios est n dispuestos a pagar. Ahora se est n preparando para la publicidad, pero el mayor negocio publicitario de la historia fue Google, y Google el a o pasado gan menos de 300.000 millones en ingresos publicitarios, as que eso todav a no cierra la brecha. Y luego ves a OpenAI tratando de rociar el mercado con todos estos lanzamientos de productos, como un navegador, el TikTok de IA... pero estos lanzamientos no est n cuajando. Tanto con el navegador como con el TikTok de IA, se volvieron virales al principio, pero en realidad est n cayendo bastante r pido despu s en t rminos de adopci n de usuarios. As que simplemente no hay un modelo de negocio viable ah . Tanto OpenAI como el resto de empresas de IA están tratando de hacer que el Gobierno de EEUU no pueda dejarlas caer haciéndole dependiente de su tecnología Cree que una de las estrategias de Altman es precisamente hacer que OpenAI sea demasiado grande para caer , llegando a m ltiples acuerdos con gobiernos e industria? Absolutamente. Hay un an lisis realmente genial escrito por un ex colega m o en el Wall Street Journal que habla de esto, donde explicaba c mo OpenAI est atando su destino a todos los principales actores tecnol gicos que actualmente est n manteniendo a flote la econom a de EEUU. Se ha atado a Nvidia, a Oracle, a Microsoft. Cuando miras la econom a de EEUU, actualmente solo est sobreviviendo y yendo bien gracias a las empresas de IA. OpenAI y las otras empresas que est n tratando de hacerse demasiado grandes para caer de dos maneras: una, haciendo que la econom a de EEUU dependa de si a estas empresas les va bien o no, ya que cuando eso sucede, el gobierno de EEUU siempre es m s propenso a querer intervenir y rescatar a una empresa que pueda causar el colapso de toda la econom a. Y dos: est n tratando de hacerse demasiado grandes para caer vendiendo sus tecnolog as al gobierno, para hacer que el gobierno dependa de sus plataformas. Todas ellas est n participando en esta especie de estrategia de dos frentes para evitar caer si explota la burbuja.

Read on the original site