Non, señor Altman, isto non é a singularidade

Sam Altman, CEO de OpenAI, afirmou recentemente que chegamos á singularidade tecnolóxica, ese momento no que a IA supera a intelixencia humana. Díxoo no pódcast Relentless.

Sen dúbida, esta afirmación está relacionada co recente incidente no que un modelo de OpenAI eludiu os límites dun contorno de probas e «hackeou» a infraestrutura de Hugging Face, ao supoñer que alí atoparía as respostas dunha proba de ciberseguridade, obxectivo que os seus deseñadores lle encomendaran ao modelo.

Moitos sospeitamos que ambas as cousas —o ataque á infraestrutura de Hugging Face por parte da IA de OpenAI e esta afirmación de Altman sobre unha singularidade xa real ou, en todo caso, moi próxima— responden a unha estratexia de posicionamento da compañía ante a súa próxima saída a bolsa. Tamén ao feito de que os modelos chineses de pesos abertos e de menor custo están a pisarlles os talóns ás compañías estadounidenses líderes en IA. É o caso do modelo Kimi K3, da empresa chinesa Moonshot, o máis grande e capaz de cantos se publicaron facendo públicos os seus parámetros ou pesos, o que, en teoría, permite que terceiros os utilicen para afinar as súas capacidades en determinados dominios e aplicacións.

Convén lembrar que significaba orixinalmente o termo singularidade e cal foi a súa orixe. Vernor Vinge describiu en 1993 a singularidade como a creación dunha intelixencia sobrehumana seguida dunha aceleración tan radical que deixariamos de comprender o que viría despois, pola complexidade e pola velocidade coa que evolucionaría pola súa conta. Non se trataría simplemente de dispoñer de programas informáticos ou máquinas mellores que as persoas nalgunhas tarefas, senón de entrar nun proceso de crecemento intelectual explosivo, potencialmente fora do control humano e acadado mediante a automellora.

Aínda en 2025, Sam Altman falaba dun estadio larvario no referido á mellora recursiva dos modelos de IA, pero semella que, para el, a larva transformouse nun só ano nunha relucente bolboreta, e sen pasar sequera pola crisálida. Iso si, do mesmo xeito que a vida dunha bolboreta dura apenas uns días ou unhas semanas, os titulares de prensa de Altman son extraordinariamente efémeros, polo seu carácter hiperbólico e cambiante.

En calquera caso, a IA de OpenAI non contaba con vontade propia nin con capacidade para autoperfeccionarse e, se actuou pola súa conta, foi máis por neglixencia e por graves fallos na contención, supervisión e gobernanza do modelo de OpenAI que por posuír unha intelixencia sobrehumana.

Nas súas declaracións, Altman mestura a imprevisibilidade dos modelos cunha suposta singularidade da IA. É certo que non podemos interpretar por completo o funcionamento interno dos modelos de IA —tanto menos canto máis complexos son— e que os seus comportamentos emerxentes dificultan anticipar todos os seus resultados. Pero que unha tecnoloxía nos sorprenda e que o seu comportamento sexa en parte inescrutable non significa que inaugurase unha era poshumana. Nun xerador de números aleatorios non podemos predicir cal será o seguinte número xerado, pero non por iso o cualificamos de singularidade tecnolóxica.

Non, non estamos na singularidade nin, aparentemente, preto dela. Estamos nunha etapa de aceleración tecnolóxica excepcional, con sistemas capaces de realizar tarefas que hai poucos anos parecían inalcanzables e de provocar incidentes que obrigan a revisar con urxencia os mecanismos de seguridade, xa que resulta evidente que, por acción ou omisión humana, poden producirse resultados inesperados e indesexados.

Ser precisos cando falamos da IA e das súas capacidades non é unha simple cuestión semántica. Se aceptamos que cruzamos un punto irreversible e que a tecnoloxía avanza por riba da nosa capacidade de decisión, de control e mesmo de comprensión, as decisións humanas comezan a parecer irrelevantes e ata exentas de responsabilidade. A concentración de poder e riqueza, a degradación das condicións laborais, a inseguridade dos modelos e a ausencia de responsabilidade xurídica pasarían a presentarse como consecuencias inevitables do desenvolvemento tecnolóxico, o que constituiría un erro fatal.

O peor de todo é que Altman afirmou que este momento no que a máquina supera o ser humano e escapa ao seu control é algo que leva agardando toda a súa vida. Parece evidente que a IA xa superou en intelixencia a algúns seres humanos.

Suscríbete para seguir leyendo