Kan AI ontsnappen aan menselijke controle?

Max Tegmark, hoogleraar kunstmatige intelligentie (AI) en natuurkundig onderzoek aan het MIT, zegt dat hij na het uitvoeren van berekeningen een waarschijnlijkheid van 90% heeft ontdekt dat een zeer geavanceerde AI een existentiële bedreiging kan vormen. In een gezamenlijk artikel dat ze met drie studenten publiceerden , bevelen de auteurs aan dat AI-bedrijven de Compton-effectvergelijking gebruiken. Deze is ontwikkeld door de Amerikaanse natuurkundige Arthur Compton en vormde de basis voor Robert Oppenheimers berekeningen voor de Trinity-test, die voorafging aan de atoombom van 1945. Ze willen hiermee hun bezorgdheid over de veiligheid wegnemen.

Volgens Tegmark resulteert de berekening in de waarschijnlijkheid dat een zeer geavanceerde AI, met algehele bevoegdheden die superieur zijn aan de menselijke intelligentie, aan menselijke controle zou kunnen ontsnappen. De deskundige, die voorzitter is van het Future of Life Institute, een non-profitorganisatie die technologie wil laten evolueren ten behoeve van de mensheid, waarschuwt dat organisaties die AI gebruiken dezelfde berekeningen moeten uitvoeren voordat ze kiezen voor superintelligentiesystemen.

De resultaten werden gepubliceerd door The Guardian en de deskundige reageerde via sociale media. "Als onderzoekers van bedrijven en landen deze constante opnieuw berekenen en het erover eens zijn dat deze te hoog is, zal er politieke wil zijn om veiligheidsnormen op te leggen", zei hij.

In november was Tegmark in Lissabon voor de Web Summit en sprak hij met Observador over de veiligheidsnormen die hij noodzakelijk acht. Elke branche heeft veiligheidsnormen, toch? Als je een restaurant wilt openen, dan heb je vast wel veiligheidsnormen in Lissabon. Je kunt geen ratten in de keuken hebben en dat soort dingen. Het belangrijkste is dat er veiligheidsnormen moeten zijn. En om erachter te komen wat die moeten zijn, heb je AI-experts nodig en die moeten met elkaar praten, en dan komen ze er vast wel uit.