Anthropics vd vill bromsa AI-utvecklingen – Musk och Altman håller med

Uppmaningen kom i ett inlägg på Anthropics egen sajt under lördagen. Enligt Dagens Nyheter skriver Amodei att utvecklingen av AI måste bromsas – och att bolagen behöver köpa sig tid att förstå vad de själva har byggt.

Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis

Så återges inlägget i Svenska Dagbladet och Sydsvenskan, som båda hänvisar till CNN. Amodei ska ha skrivit att utvecklingen de senaste månaderna gått betydligt fortare än tidigare och att tekniken nu kan förbättra sig själv. Om ingen räknar med det, skriver han enligt tidningarna, riskerar förmågan att förstå och kontrollera systemen att hamna på efterkälken.

Konkurrenterna ställde sig bakom

Svaret dröjde inte. På lördagskvällen meddelade Open AI-chefen Sam Altman att han delar bilden av läget.

Jag håller med Dario om att vi måste bromsa

Så citeras Altmans inlägg på X i Svenska Dagbladet. Elon Musk nöjde sig med ett kortare besked i samma kanal: "Dario har rätt".

Enligt Yahoo News, som refererar Altmans inlägg i original, lovar Open AI också att släppa in oberoende granskare med samma tillgång till systemen som anställda har – en idé som Amodei själv fört fram och som han sagt att Anthropic är berett att gå med på.

Larmet kom efter en rad avslöjanden

Utspelet kommer i ett läge där Anthropic självt har berättat om hur bolagets chatbot Claude missbrukats. Enligt Yahoo News redovisar bolaget i en rapport om hot och missbruk bland annat tusentals falska profiler på dejtingappar, försök till spioneri och konkurrenter som använt Claude för att träna sina egna modeller.

Kort dessförinnan lämnade AI-forskaren Jacob Coxon Anthropic i protest, efter att tidigare ha arbetat på Open AI. Han menar att inget av bolagen agerar ansvarsfullt. "De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skrev han på X, enligt Sydsvenskan.

Men vem tjänar på bromsen?

Här finns en möjlighet som är värd att hålla i minnet: att branschens plötsliga enighet om att sakta ner inte bara handlar om säkerhet, utan också om vem som får sätta reglerna. Fenomenet har ett namn i forskningen – regulatory capture, ungefär att den som ska regleras tar över regleringen.

Poängen med begreppet är att industrins eget sätt att se på saken blir det självklara: vilka risker som räknas, hur de mäts, vem som granskar vem. Det behöver inte vara cyniskt menat för att få den effekten. Men resultatet kan bli regler som passar de bolag som redan ligger först betydligt bättre än de passar allmänheten.

Och det är just de tre bolagen som nu står i frontlinjen – Anthropic, Open AI och Musks xAI – som föreslår i vilken takt frontlinjen ska flyttas fram, och vilka granskare som ska släppas in. Att förslaget kan vara både uppriktigt och bekvämt på samma gång är inte någon motsägelse.

Någon federal AI-lagstiftning finns ännu inte i USA. Enligt Yahoo News har flera kongressledamöter drivit på för att det ska ändras.