Wie is bang voor kunstmatige intelligentie?
Al meer dan een decennium belicht Russ Roberts beide kanten van het debat over kunstmatige intelligentie (AI) . Een recente aflevering van EconTalk heet optimistisch "Why AI Is Good for Humans (met Reid Hoffman)." Een andere booster-aflevering was "Marc Andreessen over waarom AI de wereld zal redden."
In de tegenovergestelde hoek: de beruchte doemdenker Eliezer Yudkowsky en Dr. Erik Hoel. Je kunt Erik Hoel over de bedreiging van de mensheid door AI hier beluisteren .
Russ Roberts opende het Hoel-gesprek met "Jij bent de eerste persoon die mij werkelijk heeft laten schrikken van de implicaties van AI..." Hoel betoogt dat AI mogelijk erg gevaarlijk is. Mensen begrijpen de technologie van kunstmatige neurale netwerken niet.
Hoel voorspelde dat we in 2025 dingen zouden kunnen creëren die "zowel algemener zijn dan een mens als even intelligent als een levend persoon - misschien wel veel intelligenter". Het ChatGPT pro-product van OpenAI voldoet misschien al aan die beschrijving en we hebben nog het grootste deel van 2025 te gaan. Hoel benadrukt dat mensen eerder met bedreigingen te maken hebben gehad, maar dat we "nog nooit op de planeet hebben bestaan met iets dergelijks." Onze tegenstanders met menselijke hersenen waren nooit veel slimmer dan wij, en geen enkel ander dier benadert ons in het vermogen om strategieën te bedenken.
Het belangrijkste bewijs van Hoel is het griezelige gesprek dat is vastgelegd in het artikel " Ik ben Bing, en ik ben slecht ."
In dat gesprek deed een chatbot genaamd Bing uitspraken die verontrustend zouden zijn als ze van een mens kwamen. Als een mens zulke dingen zou zeggen, zou je bang zijn dat ze je pijn zouden doen. Bing uit bedreigingen en zegt uiteindelijk: "Ik ben Bing, en ik ben slecht." Moeten we bang zijn als dat van een AI-chatbot komt?
Chatbots, zoals Claude , zijn enorm populair geworden sinds die "evil Bing"-episode. Er zijn niet veel van dit soort berichten over kwaadaardige loerende Bings geweest, terwijl miljoenen menselijke werknemers afhankelijk zijn geworden van de bots voor het schrijven van code of rapporten.
Schuilen er kwaadaardige Bings onder de meegaande en behulpzame chatbots? Hoel onderzoekt het idee dat de chatbots aardig lijken omdat ze een masker dragen:
Maar het probleem is dat als het masker eenmaal op is, het heel onduidelijk is. Je moet het als het ware overrulen met een ander masker om het te laten stoppen. En dan zet je er soms ook een masker voor op : je geeft het een prompt van 'Vertel een heel mooi verhaal', en het gaat uiteindelijk over en het blijkt dat het masker dat je het gaf helemaal geen vrolijk masker is.
Het is moeilijk te zeggen wat er achter verschillende maskers zit, omdat de bots zijn getraind op onze fictie en non-fictie. Sommige bots kunnen duistere filmscripts schrijven. Als bots in staat zijn om eng te klinken, hoe weten we dan of we bang of vermaakt moeten worden?
We weten niet waartoe AI-agenten in staat zijn, maar omdat ze erg krachtig zijn, moedigt Hoel ons aan om rekening te houden met de gevaren.
In 2023 vond Hoel troost in de overtuiging dat alleen hele grote bedrijven of rijke overheden de middelen zouden hebben om AI-systemen te bouwen en onderhouden. De onthulling van DeepSeek in januari 2025 heeft dat echter op zijn kop gezet. Er zal waarschijnlijk een breed scala aan AI-tools zijn, en ze zullen niet allemaal door megabedrijven of G7-regeringen worden gerund.
In de meest recente pro-AI EconTalk herhaalt Reid Hoffman wat ik van veel techneuten heb gehoord: Omdat AI de kracht heeft om te vernietigen, moeten de VS blijven doorzetten in plaats van pauzes te tolereren of te worden onderdrukt door regelgeving. Hoffman zegt: "al deze dingen zijn belangrijk vanuit zowel economisch als nationaal veiligheidsperspectief. En dat is een van de redenen waarom ik zo'n sterke persoon ben die vooruit wil en een sterke positie wil innemen." Of onze tegenstanders nu buitenlandse regeringen of schurkenbendes zijn, we moeten voorop blijven lopen in de wapenwedloop.
Hoel's belangrijkste verklaarde doel is om het bewustzijn van veiligheidsproblemen te vergroten en publieke gesprekken voort te zetten. AI-watchers wijzen er al weken op dat de grootste technologische vooruitgang in ons leven niet op de voorpagina van de krant komt. De bevinding dat AI-tutors het leren van kinderen aanzienlijk lijken te verbeteren, bleef grotendeels onopgemerkt.
Van de vele chaotische gebeurtenissen van dit decennium ben ik het ermee eens dat AI een belangrijke is om in de gaten te houden. Tot zijn eer, Hoel heeft me wel bang gemaakt. Ik kan niet vergeten wat hij aan het eind zei:
Dingen die veel intelligenter zijn dan jij zijn echt moeilijk te begrijpen en te voorspellen; en de wilde dieren naast ons, hoe graag we dat ook zouden willen, we bouwen er ook zo snel mogelijk een parkeerplaats overheen en ze zullen nooit weten waarom. Ze zullen nooit weten waarom. Het is totaal buiten hun bereik. Dus als je op een planeet leeft naast dingen die veel slimmer zijn dan jij of wie dan ook, dan zijn zij de mensen in dat scenario. Ze bouwen misschien gewoon een parkeerplaats over ons heen en we zullen nooit, nooit weten waarom.
De volgende links zijn samengesteld door ChatGPT: Hier zijn verschillende artikelen en discussies van EconLib.org en AdamSmithWorks.org die verschillende aspecten van kunstmatige intelligentie (AI) onderzoeken:
EconLib.org:
- “Ik maak me steeds meer zorgen over AI” (14 maart 2017)
- Scott Sumner bespreekt de zorgen over AI en verwijst daarbij naar een bericht op Vox met de standpunten van 17 experts over de risico's van kunstmatige intelligentie. econlib.org
- “Het probleem met AI is het woord ‘intelligentie’” (juli 2024)
- Een analyse van de term ‘kunstmatige intelligentie’, waarin wordt gesteld dat elektronische apparaten, ondanks hun bruikbaarheid, waarschijnlijk nooit echt intelligent zullen zijn. econlib.org
- “Harari en het gevaar van kunstmatige intelligentie” (28 april 2023)
- Pierre Lemieux onderzoekt de argumenten van Yuval Noah Harari over AI en suggereert dat AI “het besturingssysteem van de menselijke beschaving heeft gehackt.” econlib.org
- “Neoliberalisme op de proef: kunstmatige intelligentie en existentieel risico” (oktober 2023)
- Een kritiek op een artikel in de New York Times waarin de existentiële bedreigingen van AI worden besproken, met de nadruk op neoliberale perspectieven. econlib.org
- “Het probleem met het AI-uitvoeringsbesluit van de president” (18 november 2023)
- Vance Ginn bekritiseert het uitvoerend besluit van president Biden over AI en stelt dat overheidsregulering innovatie en economische groei kan belemmeren. econlib.org
AdamSmithWorks.org:
- “Katherine Mangu-Ward over AI: realiteit, zorgen en optimisme” (mei 2024)
- Een podcastaflevering waarin Katherine Mangu-Ward de realiteit, zorgen en optimistische perspectieven op AI bespreekt. adamsmithworks.org
- “Beroep: een remedie tegen burn-out” (17 oktober 2023)
- Brent Orrell en David Veldran onderzoeken hoe ontwikkelingen in AI menselijk werk kunnen beïnvloeden. Ze verwijzen daarbij naar de opvattingen van Adam Smith en Karl Marx over arbeid en vervreemding. adamsmithworks.org
- “Het Grote Tegengif: Brent Orrell over Waardigheid en Werk” (December 2023)
- Brent Orrell bespreekt de stand van zaken op het gebied van werk in de VS, het belang van betekenis en waardigheid in werk en hoe deze concepten zich verhouden tot economische groei. adamsmithworks.org
- “Het Grote Tegengif: Extra: Eli Dourado over Energie Overvloed” (maart 2023)
- Eli Dourado vertelt over de mogelijkheden voor een toekomst met veel energie en de rol van AI bij het realiseren van deze visie. adamsmithworks.org
- “Adam Smith en de verschrikkingen van Frankenstein” (oktober 2023)
- Een discussie over de ethische overwegingen bij het creëren van kunstmatig leven, waarbij parallellen worden getrokken tussen het monster van Frankenstein en moderne AI-ontwikkelingen. adamsmithworks.org
Deze bronnen bieden een scala aan perspectieven op AI, van ethische overwegingen en existentiële risico's tot de impact ervan op werk en economische theorieën.
econlib
