Steeds meer mensen slaan alarm over de gevaren van kunstmatige intelligentie. De kans dat AI binnenkort de mensheid uitroeit, zou aanzienlijk zijn, aldus de tech-elite. Goed, de feiten kent u. We zoomen nu in op de taal van dit dossier.
Van Dale vermeldt de afkorting ki voor kunstmatige intelligentie, maar die wordt door niemand gebruikt. Waarschuwing: AI-jargon bevat veel Engelse begrippen.
Meerdere AI-bedrijven hebben een Large Language Model (LLM) ontwikkeld. Door technisch vernuft en intensieve training kan zo’n generatief taalmodel talige uitingen produceren, zodat u gezellig met ChatGPT kunt kletsen.
Techbedrijven stellen de modellen voor hetere vuren. Zo onderwierp OpenAI 1.200 AI-agenten aan een cybersecuritytest. De stukjes software ontsnapten uit hun offline testomgeving (de internetsandbox) via een zerodaykwetsbaarheid (een bij de programmeurs onbekend lek) en hackten een database.
Hacken komt van ‘hakken’, wat men doet met een bijl. Leden van de modeltreinvereniging van MIT gebruikten ‘hack’ in de jaren vijftig voor practical jokes. Toen het hun in 1963 lukte om met een computer op het telefoonnet in te breken, ging dit ook een hack heten. Gaandeweg werd hacken het ‘met kwade bedoelingen inbreken in computers’ (Van Dale).
AI-agenten (of agents) gebruiken LLM’s en kunnen hun eigen workflow evalueren en aanpassen. Het angstbeeld van losgeslagen AI hangt samen met RSI, recursive self-improvement, een situatie waarin een AI-agent oneindig vaak de eigen code evalueert en verbetert totdat hij superintelligent is. Een sleutelbegrip bij de controle op AI is alignment: de slimme software moet ‘in lijn’ zijn en blijven met menselijke waarden.
Overigens ligt bij AI het gevaar van antropomorfiseren op de loer: het toedichten van menselijke eigenschappen aan de code, zoals het vormen van beschavingen.
Onder meer de CEO van Anthropic riep na het cyberincident op om de AI-revolutie te vertragen (‘pacing the frontier’). In plaats van zo’n slowdown ziet de Amerikaanse president liever een showdown: een AI-wedloop tussen Amerika en China, uiteraard in de overtuiging dat de Amerikanen winnen. ‘Wie AI wint, wint’, aldus Trump.
Het gevaar is volgens Trump een hoax, een woord afgeleid van hocus (pocus). De president wil geen regels, maar heeft wel een AI-force en een AI-tsaar aangekondigd. Zijn democratische tegenstrever Gavin Newsom laat onderzoeken of er een killswitch (een noodknop) kan komen voor AI.
Enfin, u heeft weer het een en ander om te bespreken tijdens de borrel – en dat zonder gebruik van AI.
Geschreven voor de Volkskrant