Anthropic alerta que a IA poderá em breve começar a melhorar-se a si própria
Las organizaciones públicas españolas están añadiendo rápido una partida nueva a sus gastos ordinarios. Los pagos por servicios de chatbots de inteligencia artificial, sobre todo ChatGPT pero también Claude, han pasado de un contrato en noviembre de 2022, cuando salió ChatGPT, a sumar más de 1.350 apenas tres años después. Las administraciones públicas se gastan hoy más de 394.000 euros en este tipo de servicios, casi todos en OpenAI, creadores de ChatGPT y pioneros del sector. Apenas un puñado de instituciones se han suscrito de momento a Claude, la IA de Anthropic lanzada en 2023, por un total de 28.000 euros repartidos en 56 contratos.
Las búsquedas de los contratos han sido realizadas a través del portal Gobierto, que permite buscar por adjudicador o adjudicatario. Los detalles de los objetos de cada adjudicación han sido consultados en la Plataforma de Contratación del Estado.
Una pausa di riflessione per evitare l’irreparabile. A chiederla è Anthropic, la startup di Dario Amodei, che si rivolge a tutto il settore. “Riteniamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale di frontiera per consentire alle strutture sociali e alla ricerca di allineamento di stare al passo con il progresso della tecnologia”, scrive l’azienda. L’appello arriva nel momento peggiore, sotto l’aspetto della produzione. La competizione ormai si è spostata su livelli sempre più alti, spostati man mano che qualcuno annunci un nuovo modello sul mercato. Per Anthropic però sono talmente potenti che presto potrebbero scappare al controllo umano. Ormai sono capaci di automigliorarsi, capendo dove si trovano le proprie vulnerabilità per superarle da soli. “Le prove suggeriscono che il ruolo umano si sta riducendo a ogni fase del processo di sviluppo dell’intelligenza artificiale”, sottolinea Anthropic specificando che questo momento potrebbe arrivare prima di quanto si immagini.
Sul fronte dei rischi antropici, la società ha paragonato il problema ai trattati sul controllo degli armamenti nucleari, ma ha affermato che sarebbe ancora più difficile da gestire, poichè l’addestramento dell’IA è molto più facile da nascondere rispetto a un silo missilistico, e la tentazione di continuare silenziosamente sarebbe enorme. L’azienda ha dichiarato di voler riunire nei prossimi mesi funzionari governativi, scienziati, gruppi di difesa dei diritti e aziende concorrenti nel settore dell’intelligenza artificiale per capire come un sistema del genere potrebbe funzionare.
La richiesta di coordinamento giunge in concomitanza con dati interni che dimostrano come l’IA stia già accelerando in modo significativo lo sviluppo dell’IA stessa, creando un ciclo di feedback che potrebbe alla fine portare a quello che i ricercatori definiscono “auto-miglioramento ricorsivo”, ovvero l’idea di un sistema capace di imparare da solo per diventare più intelligente, senza un grande aiuto umano.”Non ci siamo ancora, e l’auto-miglioramento ricorsivo non è inevitabile”, afferma il rapporto, aggiungendo tuttavia che potrebbe verificarsi prima di quanto la maggior parte dei governi e delle istituzioni siano pronti ad accettare. “Le prove suggeriscono che il ruolo umano si sta riducendo a ogni fase del processo di sviluppo dell’intelligenza artificiale”, ha concluso l’azienda.
Bisogna però vedere se c’è la volontà di fermarsi. La proposta di Anthropic parte da un assunto: che tutti accettino di rallentare. Non sarebbe infatti valida se, ad esempio, le aziende americane sospendessero le loro attività mentre quelle cinesi continuassero come nulla fosse. “Senza un meccanismo di coordinamento globale”, spiega la startup da 1 trilione di dollari, “aziende e governi dovranno prendere decisioni difficili in materia di sicurezza, operando sotto la pressione competitiva e geopolitica”. Motivo per cui Anthropic vorrebbe riunione quanti più stakeholder possibile – funzionari del governo, esperti del settore, organizzazioni a difesa dei diritti – così da capire come muoversi.
La speranza di essere ascoltati è viva. Nonostante un approccio iniziale basato sul lassismo per favorire il progresso, la Casa Bianca sembra aver raddrizzato il tiro. Durante la visita in Cina, Donald Trump ha accettato di coordinarsi con Xi Jinping in materia di intelligenza artificiale. Qualche giorno dopo, il presidente americano ha firmato un disegno di legge con cui le aziende – su base volontaria – dovranno condividere con le agenzie gli effetti dei loro modelli prima di rilasciarli.
Tuttavia, la diffidenza rimane. Sia a Washington, sia soprattutto nella Silicon Valley, la preoccupazione è che rallentando si perda terreno. Fermare il progresso potrebbe essere esiziale nella competizione con la Cina.
Anthropic è perfettamente consapevole delle difficoltà. Non per questo però intende darsi per vinta senza averci provato. Se il suo appello dovesse venire inascoltato, ha già una soluzione alternativa. Tempo fa, aveva mandato qualche suo dipendente alla National Security Agency (Nsa) affinché aiutassero i funzionari dell’agenzia a utilizzare Mythos, il modello più potente di Claude. Gli ingegneri avevano il compito di istruirli e adattare lo strumento per funzioni specifiche. Questo nonostante la controversia in corso con il Pentagono, di cui la Nsa fa parte. Siccome il Dipartimento della Difesa vuole utilizzare gli strumenti di Anthropic a tutti i costi, tanto vale insegnargli bene a usarli.
A Anthropic alertou que a inteligência artificial será capaz de criar o “seu próprio sucessor” de forma totalmente autónoma nos próximos anos, sugerindo “uma pausa” no seu desenvolvimento para que a sociedade e a investigação possam “acompanhar o ritmo”.
A empresa norte-americana revelou, numa publicação, quinta-feira, que delega cada vez mais o desenvolvimento da inteligência artificial (IA) aos seus próprios sistemas de IA e, à medida que a capacidade computacional aumenta, aproxima-se a possibilidade da “auto-melhoria recursiva”, ou seja, que ela própria conceba e desenvolva o seu sucessor.
A autoaperfeiçoamento recursivo, que “não é inevitável” e “pode chegar antes que muitas instituições estejam preparadas”, pode ser benéfico para a ciência e a saúde, mas também “aumentar os riscos de os humanos perderem o controlo dos sistemas de IA”, salientou.
“Se os sistemas forem capazes de criar inteiramente os seus próprios sucessores, as formas de os tornar seguros, supervisioná-los e moldar o seu comportamento tornam-se muito mais importantes”, acrescentou.
A empresa acredita que “provavelmente será benéfico” abrandar o desenvolvimento da IA para poder dedicar mais tempo a abordar as suas “imensas implicações”, e apelou à colaboração de empresas de todo o mundo com o seu departamento de investigação, o The Anthropic Institute, para estabelecer um quadro de referência.
“Acreditamos que seria bom para o mundo ter a opção de travar ou pausar temporariamente o desenvolvimento da IA de ponta, para permitir que as estruturas sociais e a investigação em alinhamento possam acompanhar o ritmo do avanço da tecnologia”, declarou.
A Anthropic propõe ajudar a construir os sistemas que essa pausa exigiria, com formas de “verificar” se os outros realmente param para evitar favorecer um “agente mal-intencionado”, e destacou que laboratórios “bem financiados” em vários países deverão “aceitar parar nas mesmas condições”.
“Uma pausa credível também tem de especificar o que a desencadeia, o que a levanta e quem a arbitra”, salientou.
O texto, assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, descreve, utilizando dados internos, a rapidez com que os seus modelos avançados estão a melhorar, e prevê que, no futuro, agentes como o seu Claude poderão treinar-se sozinhos.
Por exemplo, explicou que hoje mais de 80% do código que a Anthropic incorpora na sua base de código foi criado pelo Claude, quando há pouco mais de um ano, em fevereiro de 2025, o número era inferior a 10%.
A Anthropic, que detém o Claude, escolheu os bancos Goldman Sachs e o Morgan Stanley para liderar a sua oferta pública inicial (IPO), avançou a agência noticiosa Bloomberg. Na operação vai participar também o JP Morgan Chase.
A empresa manifestou esta segunda-feira a sua intenção de entrar em bolsa, de forma confidencial, junto do regulador dos mercados norte-americano (SEC). Contudo não avançou em que data é que isso vai acontecer. Apenas referiu que isso dependerá das “condições de mercados e de outros fatores”.
Mas em março a Bloomberg avançava que a entrada em bolsa da Anthropic poderia ocorrer em outubro, no melhor cenário. A expetativa é que a empresa angarie 60 mil milhões de dólares (52 mil milhões de dólares), o que superaria o máximo estabelecido pela Saudi Aramco em 2019.
A última ronda de investimento da Anthropic colocou o valor da empresa em 965 mil milhões de dólares (827,9 mil miçhões de euros), o que a tornaria na 16ª cotada mais valiosa do mundo.
Este ano pode ficar marcado pela entrada das três principais empresas não cotadas (SpaceX, Anthropic, e OpenAI) em bolsa. E com encontro marcado com a história.
A SpaceX, que é a não cotada mais valiosa do mundo, faz a estreia em bolsa a 12 de junho, quando começar a transacionar as suas ações no Nasdaq. Esta quarta-feira a empresa, liderada por Elon Musk, atualizou o documento entregue junto da SEC, confirmando que a entrada em bolsa será histórica. A empresa planeia levantar 75 mil milhões de dólares (64,5 mil milhões de euros) o que vai superar os 25,5 mil milhões de dólares (21,9 mil milhões de euros) da Saudi Aramco em 2019.
A SpaceX vai vender 555,6 milhões de ações a 135 dólares cada fazendo a avaliação da empresa se situar nos 1,77 biliões de dólares (1,52 biliões de euros), o que a tornaria a oitava cotada mais valiosa do mundo.
Na dianteira do IPO da SpaceX estarão os bancos Goldman Sachs, Morgan Stanley, Bank of America, Citigroup, e JP Morgan Chase.
A OpenAI, que detém o ChatGPT, e a terceira não cotada mais valiosa do mundo, tem também planos para entrar em bolsa este ano. O “Wall Street Journal” avançou, em janeiro, que isso poderia acontecer no quarto trimestre do ano.
A empresa terá tido negociações com o CitiGroup e o JP Morgan para que estes bancos trabalhem na entrada em bolsa da empresa (IPO, ou oferta pública inicial na tradução portuguesa), avançou a Bloomberg em junho, citando fontes conhecedoras do processo.
A confirmar-se, o Citigroup e o JP Morgan iriam juntar-se ao Goldman Sachs e ao Morgan Stanley neste processo de entrada em bolsa da empresa detentora do ChatGPT, avançaram as mesmas fontes à agência noticiosa.
A última ronda de investimento da OpenAI colocou o valor da empresa em 852 mil milhões de dólares (731 mil milhões de euros), o que a tornaria na 19ª cotada mais valiosa do mundo.


Il fatturato 2026 di Anthropic è sui 30 miliardi di dollari e poggia su una scommessa: una politica di prezzo mai usata prima su scala così larga. Se la scelta non paga, il problema non investe solo l’azienda, ma il modello finanziario dell’intero settore.
L'articolo La difficile scommessa di Anthropic * proviene da Lavoce.info.
Usa, Cina ed Europa hanno approcci diversi all’IA e al finanziamento del suo sviluppo. Per l’Unione europea è però arrivato il momento di decidere se la dipendenza tecnologica dai modelli americani è un fatto da gestire o un problema da affrontare.
L'articolo La scelta europea tra IA open source e sovranità * proviene da Lavoce.info.

Stock markets continue to perform strongly despite the mounting risks. Neither the war in the Middle East, nor the resurgence of inflationary pressures, nor fears of an economic slowdown have managed to slow down the equity market. However, beneath this apparent strength there lies an increasingly evident fragility: the growing concentration of the market. The bulk of the gains rests on an increasingly limited number of stocks, and the trend is particularly evident in the U.S. According to Goldman Sachs, 85% of the S&P 500’s gains so far in 2026 (10%) come from technology. Excluding the sector, the advance drops to 3%.

© REUTERS

Last year Time magazine included Pope Leo XIV among the 100 most important figures in the world in artificial intelligence (AI). It is no coincidence. Only eight days passed from his papal appointment to his first public remarks on the technology: “Truth is never separated from charity... Thus, truth does not distance us, but rather allows us to face with greater vigor the challenges of our time, such as migration, the ethical use of artificial intelligence and the protection of our beloved Earth,” he said in his second official address. His first encyclical, Magnifica Humanitas (magnificent humanity), is devoted precisely to this technology.

© Vatican Media/LaPresse (Vatican Media/LaPresse)