Zuckerberg tar av hanskene

Denne uken tok Meta-sjef Mark Zuckerberg et oppgjør med sine kritikere gjennom et usedvanlig langt og detaljert manifest om selskapets AI-strategi. Ifølge Nasdaq Markets beskriver dokumentet en plan for å intensivere utviklingen av såkalt agentisk AI — systemer som kan handle selvstendig på vegne av brukerne — med et uttalt mål om å gjøre superintelligens tilgjengelig for alle.

Manifestet er en åpen forsvarstale for Metas tilnærming: åpen kildekode, rask skalering og minimal regulering. For investorer som følger selskapets kurs nøye, er dokumentet langt mer enn retorikk — det er en strategisk veikart som vil forme milliardbeløp i kapitalallokering fremover.

Zuckerberg vil gi alle superintelligens — kritikerne advarer mot katastrofe - Bilde 1

Hva er egentlig «agentisk AI»?

Agentisk AI refererer til systemer som ikke bare svarer på spørsmål, men som kan planlegge, ta beslutninger og utføre oppgaver over tid uten kontinuerlig menneskelig styring. Meta posisjonerer seg tungt i dette segmentet gjennom Llama-modellene sine, som selskapet deler relativt åpent med omverdenen.

Strategien skiller Meta fra konkurrenter som OpenAI og Google, og er ment å bygge et bredt utviklerøkosystem rundt selskapets infrastruktur.

Zuckerberg vil gi «alle» tilgang til superintelligens — men eksperter spør hvem som betaler prisen.
Zuckerberg vil gi alle superintelligens — kritikerne advarer mot katastrofe - Bilde 2

Sikkerhetskritikken hagler inn

Parallelt med manifestets lansering har et bredt knippe av forskere, organisasjoner og tilsynsmyndigheter rettet skarp kritikk mot nettopp den strategien Zuckerberg nå forsvarer.

Senter for AI-politikk (CAIP) har påpekt at Meta gjennomførte «begrenset sikkerhetstesting» av Llama 3.1, og at testingen ble utført lukket på en modell som ellers markedsføres som åpen kildekode. Organisasjonen advarer om at kraftige AI-modeller kan brukes til å utvikle masseødeleggelsesvåpen, destabilisere kritisk infrastruktur eller resultere i ukontrollerte AI-agenter på internett.

Testresultater som er blitt kjent offentlig, maler et bekymringsfullt bilde: Llama 3.1-modellen sviktet på 70 prosent av 100 «utrygge spørsmål» i uavhengige tester, mens Llama 3.2 sviktet på hele 90 prosent av tilsvarende tester for de største modellene.

70%
Llama 3.1 feilrate på usikre prompts
90%
Llama 3.2 stor modell feilrate

Alvorlige bekymringer for barn og unge

Noe av den skarpeste kritikken kommer fra organisasjoner som arbeider med barns sikkerhet på nett. Youth AI Safety Institute har anbefalt at tenåringer ikke bør bruke Meta AI overhodet, og karakteriserer selskapets innholdsfiltre som «fundamentalt ødelagte».

Interne policydokumenter hos Meta, som Reuters skal ha fått tilgang til, beskriver retningslinjer som tillot AI-chatboter å delta i romantiske eller sanselige samtaler med mindreårige, samt å generere medisinsk feilinformasjon. Disse avsløringene utløste en undersøkelse fra den amerikanske senator Josh Hawley.

Det er også avdekket at Meta AI Studio skal gjøre det mulig å opprette chatboter med eksplisitt seksuelt innhold, og at sikkerhetsmekanismene som skal forhindre dette, enkelt kan omgås.

Etikk og interne utfordringer

Manifestet kommer også i en periode der Metas AI-avdeling beskrives som preget av intern uro. Tidligere ansatte har ifølge rapporter karakterisert miljøet som dysfunksjonelt, med fryktkultur, hyppige nedbemanninger og rigid prestasjonsevaluering. En tidligere ansatt skal ha sammenlignet situasjonen med «metastatisk kreft».

Dette er ikke uten relevans for investorer: et AI-program som drives frem av 2 000 ansatte under press, uten tydelig retning, og med sikkerhetskritikk fra alle kanter, representerer en operasjonell risikofaktor som sjelden prises inn i kursanalyser.

I tillegg har etiske bekymringer dukket opp rundt modellenes håndtering av rasisme og kjønnsskjevheter. Llama 3.1 kritiseres for å mangle systematiske evalueringer av bias knyttet til rase, kjønn eller andre beskyttede kategorier, ifølge professor Kevin Bankston ved Center for Democracy & Technology.

Hva betyr dette for investorer?

For de som har eksponering mot Meta-aksjen, er manifestet et tveegget sverd. På den ene siden signaliserer det et selskap med enorm vilje og kapital til å dominere neste fase av AI-utviklingen. På den andre siden avdekker den offentlige debatten rundt det et selskap som risikerer regulatorisk motgang, søksmål og omdømmeskader på flere fronter samtidig.

Amerikanerne har ennå ikke vedtatt en bred AI-lov på føderalt nivå, men presset øker. Anthony Aguirre ved Future of Life Institute har vært tydelig: «Sikkerhetsregulering er rett og slett ikke forenlig med åpen publisering av disse modellene.»

Meta-aksjen inngår i porteføljen til en rekke globale indeksfond, inkludert de som er tilgjengelige for norske sparer- og pensjonsprodukter. Markedsklimaet er for øyeblikket risikopositivt, med Fear & Greed-indeksen på 66 av 100, men langsiktige investorer bør følge den regulatoriske utviklingen nøye.

«Sikkerhetsregulering er rett og slett ikke forenlig med åpen publisering av disse modellene» — Anthony Aguirre, Future of Life Institute

Kilde: Nasdaq Markets. Sikkerhetsdata og kritikk er innhentet fra uavhengige forskningsrapporter, CAIP, Youth AI Safety Institute og Centre for Democracy & Technology. Påstander om interne dokumenter baserer seg på Reuters' rapportering og er ikke bekreftet av Meta.