De laatste sprong van AI alarmeert experts: "De wereld is in gevaar"

Spanje - Ekhbary Nieuwsagentschap

De laatste sprong van AI alarmeert experts: "De wereld is in gevaar"

De stemmen die waarschuwen voor de diepgaande maatschappelijke gevolgen van de nieuwste kunstmatige intelligentiemodellen worden luider, te midden van angsten voor massale ontslagen in witte boordenberoepen. Matt Shumer, een vooraanstaand AI-programmeur, verklaarde deze week: "We staan voor iets veel, veel groters dan COVID."

Shumer publiceerde onlangs een artikel met de titel "Er gebeurt iets groots" (Something Big Is Happening), dat viraal ging en sinds dinsdag meer dan 80 miljoen keer is bekeken. In zijn essay schetst hij de bedreigingen die nieuwe AI-modellen vormen voor miljoenen witte boorden banen wereldwijd. Hij legt uit dat de reden waarom zoveel mensen in het veld nu alarm slaan is omdat "ons dit al is overkomen."

Shumer vertelt hoe AI-bedrijven al computerwetenschappers en ontwikkelaars ontslaan, omdat de tools die ze hebben gemaakt nu in staat zijn zichzelf te programmeren en intelligenter te worden. "We doen geen voorspellingen. We vertellen u wat er al is gebeurd in onze eigen banen, en we waarschuwen u dat u de volgende bent", verklaarde hij. Deze getuigenissen uit de branche zelf geven zijn waarschuwingen aanzienlijk gewicht.

Deze zorgen vallen samen met een turbulente week op Wall Street, waar investeerders bedrijven hebben bestraft waarvan wordt verwacht dat ze het meest zullen worden beïnvloed door het disruptieve potentieel van deze technologie. Softwarebedrijven, videogame-ontwikkelaars en IT-bedrijven hebben aanzienlijke koerscorrecties gezien naarmate de geavanceerde capaciteiten van nieuwe AI-modellen en hun risico voor miljoenen banen duidelijk worden. Experts suggereren dat een kind binnenkort een AI kan instrueren om een op maat gemaakte videogame te maken, en taalprogramma's ontwikkeld door individuen met beperkte technische expertise floreren.

De impact blijft echter niet beperkt tot de technologiesector. Investeerders zien hoe automatisering klaarstaat om minder voor de hand liggende sectoren zoals logistiek, verzekeringen en consultancy binnen te dringen. Een paar eenvoudige commando's kunnen voldoende zijn om geavanceerde software voor belastingplanning of klantenservicebots te genereren die menselijke interactie overtreffen.

Yves Bonzon, Hoofd Investeringen bij de Zwitserse bank Julius Baer, legde uit: "De snelle vooruitgang van AI-tools voedt de wijdverbreide angst voor ontwrichting in de industrieën die het meest worden blootgesteld aan de verspreiding van deze technologie binnen de kennisgeoriënteerde economie, met name in bedrijfsmodellen die geen intensief kapitaalgebruik vereisen, met softwarebedrijven voorop." Op dezelfde manier merkte de Zwitserse investeringsbank UBS op: "Zorgen van investeerders over de disruptieve impact van AI blijven drukken op Amerikaanse aandelen, van verzekeringsmakelaars en vastgoeddiensten tot logistiek." De UBS neemt echter een optimistische toon aan voor investeerders en voegt toe: "Hoewel de wereldwijde impact op deze industrieën en individuele bedrijven nog moet blijken, beschouwen we [dit proces] als een validatie van het monetisatiepotentieel van AI. De vooruitgang onderstreept de transformerende aard ervan."

Shumer benadrukt dat "dit anders is dan alle eerdere golven van automatisering." Hij legt uit dat AI geen specifieke vaardigheid vervangt, maar fungeert als een "algemene vervanging voor cognitief werk", die zich tegelijkertijd op alle gebieden verbetert. In het verleden kon een fabrieksarbeider die door automatisering was verdrongen, zich omscholen tot kantoorbediende. Toen internet de detailhandel ontwrichtte, verhuisden werknemers naar logistiek of diensten. "Maar AI laat geen handige leemte achter om te vullen. Wat het doel van omscholing ook is, het wordt daarin ook beter", voegde hij eraan toe.

Deze escalerende waarschuwingen komen nu de technologiegiganten hun investeringen in deze disruptieve technologie verdubbelen. Alleen al in 2026 plannen de vier wereldwijde technologiegiganten – Alphabet, Amazon, Meta en Microsoft – om meer dan 650 miljard dollar te investeren in AI. Dit is de grootste jaarlijkse investering in enige technologische ontwikkeling, en overtreft zelfs de expansie van de spoorwegen eind 19e eeuw, de ruimteprogramma's van NASA, of de dotcom-zeepbel begin 21e eeuw wat betreft de toewijzing van middelen in zo'n korte tijd.

Deze technologiemagnaten, die budgetten beheren die die van sommige landen overschrijden, zijn verwikkeld in een koortsachtige race om AI te ontwikkelen. Dit vereist het trainen van hun computermodellen met duizenden computers uitgerust met de modernste microprocessors, gegroepeerd in enorme datacenters met honderden servers om continu leren mogelijk te maken. Ze hebben ook gespecialiseerde energievoorzieningsinstallaties nodig om hun enorme energieverbruik te dekken.

Shumer schetst een angstaanjagend beeld, waarin gedetailleerd wordt beschreven hoe cognitieve modellen, gemaakt door algoritmen, exponentiële verbeteringen hebben bereikt in de afgelopen jaren. Hij waarschuwt echter dat de nieuwste versies van bedrijven als OpenAI, de maker van ChatGPT, en Anthropic, die het Claude-model ontwikkelt, "geen geleidelijke verbeteringen zijn. Het is iets totaal anders."

Dario Amodei, CEO van Anthropic, een bedrijf opgericht door voormalige OpenAI-onderzoekers, stelt: "AI is geen vervanging voor specifieke menselijke banen, maar eerder een algemene arbeidsvervanger voor mensen." Amodei publiceerde onlangs een verontrustende essay "De adolescentie van technologie: hoe om te gaan met en de risico's van krachtige AI te overwinnen" (The Adolescence of Technology: How to Confront and Overcome the Risks of Powerful AI), waarin de gevaren van dergelijke geavanceerde technologie worden besproken, waaronder Kunstmatige Algemene Intelligentie (AGI) die in staat is tot autonoom denken. Hij schat dat de helft van alle witte boorden banen wereldwijd binnen één tot vijf jaar zou kunnen verdwijnen, en concludeert dat "de kortetermijnschok van ongekende omvang zal zijn."

Deze week bereikte Anthropic een waardering van 380 miljard dollar na zijn laatste financieringsronde, waarbij 30 miljard dollar werd opgehaald. Het bedrijf heeft zich gepositioneerd als een van de meest bezorgde technologiebedrijven op het gebied van veiligheid, en stelt dat zijn modellen worden getraind volgens strikte ethische principes om manipulatie en misleiding te voorkomen. Anthropic kondigde deze week ook de oprichting aan van een Special Purpose Acquisition Company (SPAC) van 20 miljoen dollar om transparantie en veiligheid in AI-modellen te bevorderen. Dit initiatief is bedoeld om wetgevers te beïnvloeden om regelgeving en waarborgen tegen misbruik van AI vast te stellen, en positioneert zich mogelijk tegenover rivalen zoals OpenAI, die bekend staan om agressievere tactieken.

Shumers essay valt ook samen met het ontslag van twee leidinggevenden van OpenAI en Anthropic, die waarschuwden voor de diepte van de veranderingen die de wereld te wachten staan, verder dan de arbeidsmarkt. "De wereld is in gevaar. En niet alleen door AI of biologische wapens, maar door een heel scala aan onderling verbonden crises die zich op dit moment ontvouwen", schreef Mrinank Sharma, een AI-veiligheidsonderzoeker die Anthropic verliet om naar het VK te verhuizen om poëzie te schrijven en "onzichtbaar te worden." Sharma had gewerkt op het gebied van AI-veiligheid om de risico's van door AI ondersteunde bioterrorisme te bestrijden en te onderzoeken "hoe AI-assistenten ons minder menselijk zouden kunnen maken", en sprak bij zijn vertrek een gevoel van berusting uit.

Woensdag publiceerde Zoe Hitzig, een onderzoeker bij OpenAI, een artikel in The New York Times waarin ze haar twijfels uitte over de nieuwe advertentiestrategie van het bedrijf. Hitzig, die een doctoraat in Economie van Harvard heeft, schreef: "Ik heb serieuze bedenkingen bij de strategie van OpenAI." De volgende dag diende ze haar ontslag in, wat een extra laag van bezorgdheid toevoegt aan de toekomstige koers van AI en de maatschappelijke implicaties ervan.

Ekhbary Nieuwsagentschap