Nieopublikowany dokument OpenAI dotyczący AGI może skomplikować negocjacje z Microsoftem

Mała klauzula w umowie OpenAI z Microsoftem , kiedyś uważana za odległą hipotezę , stała się teraz punktem zapalnym w jednym z największych partnerstw w branży technologicznej.

Klauzula stanowi, że jeśli zarząd OpenAI kiedykolwiek ogłosi, że opracował sztuczną inteligencję ogólną (AGI), ograniczy to zakontraktowany dostęp Microsoftu do przyszłych technologii startupu. Microsoft, który zainwestował ponad 13 miliardów dolarów w OpenAI, podobno naciska teraz na usunięcie klauzuli i rozważa całkowite wycofanie się z umowy, według Financial Times.

Pod koniec zeszłego roku napięcia wokół nagle kluczowej roli AGI w umowie z Microsoftem przeniosły się na debatę w OpenAI nad wewnętrznym dokumentem badawczym, według wielu źródeł zaznajomionych ze sprawą. Dokument zatytułowany „Five Levels of General AI Capabilities” przedstawia ramy klasyfikacji postępowych etapów technologii AI. Źródła twierdzą, że poprzez sformułowanie konkretnych twierdzeń na temat przyszłych możliwości AI dokument mógł skomplikować zdolność OpenAI do oświadczenia, że ​​osiągnął AGI, potencjalny punkt nacisku w negocjacjach.

„Skupiamy się na rozwijaniu empirycznych metod oceny postępu AGI — pracy, która jest powtarzalna, mierzalna i użyteczna dla szerszej dziedziny” — powiedziała rzeczniczka OpenAI Lindsay McCallum w pisemnym komentarzu do WIRED. „„Pięć poziomów” było wczesną próbą klasyfikowania etapów i terminologii opisującej ogólne możliwości AI. Nie był to naukowy artykuł badawczy”. Microsoft odmówił komentarza.

W poście na blogu opisującym strukturę korporacyjną OpenAI zauważa, że ​​AGI „jest wyłączone z licencji IP i innych warunków handlowych z Microsoft”. ​​OpenAI definiuje AGI jako „wysoce autonomiczny system, który przewyższa ludzi w najbardziej wartościowej ekonomicznie pracy”.

Obie firmy renegocjowały umowę, ponieważ OpenAI przygotowuje restrukturyzację korporacyjną . Podczas gdy Microsoft chce mieć ciągły dostęp do modeli OpenAI, nawet jeśli startup zadeklaruje AGI przed zakończeniem partnerstwa w 2030 r., jedna osoba zaznajomiona z dyskusjami na temat partnerstwa mówi WIRED, że Microsoft nie wierzy, że OpenAI osiągnie AGI do tego terminu. Jednak inne źródło zbliżone do sprawy opisuje klauzulę jako ostateczną dźwignię OpenAI. Obydwa źródła otrzymały anonimowość, aby móc swobodnie mówić o prywatnych dyskusjach.

Według Wall Street Journal , OpenAI rozważało nawet powołanie się na klauzulę opartą na agencie kodowania AI. Rozmowy stały się tak napięte, że OpenAI podobno rozważało, czy powinno publicznie oskarżyć Microsoft o zachowanie antykonkurencyjne, zgodnie z Journal .

Według źródła zaznajomionego z dyskusjami, któremu udzielono anonimowości, aby móc swobodnie mówić o negocjacjach, OpenAI jest dość blisko osiągnięcia AGI; Altman stwierdził, że spodziewa się tego w czasie obecnej kadencji Donalda Trumpa.

To samo źródło sugeruje, że istnieją dwie istotne definicje: Po pierwsze, zarząd OpenAI może jednostronnie zadecydować, że firma osiągnęła AGI zgodnie z definicją zawartą w jej statucie, co natychmiast odcięłoby Microsoft od dostępu do technologii lub przychodów uzyskanych z AGI; Microsoft nadal miałby prawa do wszystkiego przed osiągnięciem tego kamienia milowego. Po drugie, umowa obejmuje koncepcję wystarczającego AGI, dodaną w 2023 r., która definiuje AGI jako system zdolny do generowania określonego poziomu zysku. Jeśli OpenAI stwierdzi, że osiągnęła ten punkt odniesienia, Microsoft musi zatwierdzić ustalenie. Umowa zabrania również Microsoftowi dążenia do AGI na własną rękę lub za pośrednictwem osób trzecich przy użyciu IP OpenAI.

Bloomberg wcześniej informował o istnieniu „Pięciu poziomów” i że OpenAI planuje udostępnić skalę swoim zewnętrznym inwestorom, chociaż w tamtym czasie uważano to za „pracę w toku”. Dyrektor generalny OpenAI Sam Altman i dyrektor ds. badań Mark Chen mówili o pięciu poziomach możliwości AI w różnych wywiadach od tego czasu. Wersja dokumentu z września 2024 r., którą obejrzał WIRED, szczegółowo opisuje pięciostopniową skalę pomiaru zaawansowania systemów AI, powołując się na inne badania, które twierdzą, że wiele modeli OpenAI w tym momencie znajdowało się na poziomie 1, zdefiniowanym jako „AI, która potrafi płynnie rozumieć i używać języka oraz wykonywać szeroki zakres zadań dla użytkowników, co najmniej tak dobrze, jak początkujący, a czasami lepiej”.

Zauważa, że ​​niektóre modele w tamtym czasie zbliżały się do poziomu 2, który autorzy definiują jako „AI, która może wykonywać bardziej zaawansowane zadania na żądanie użytkownika, w tym zadania, których wykonanie przez przeszkolonego eksperta może zająć godzinę”. Artykuł celowo unika podawania pojedynczej definicji AGI, argumentując, że termin ten jest zbyt niejasny i binarny, a zamiast tego decyduje się na użycie spektrum możliwości w celu opisania coraz bardziej ogólnych i wydajnych systemów AI.

W artykule nie przewidziano, kiedy systemy OpenAI osiągną każdy z pięciu poziomów, ale przewidziano, w jaki sposób każdy krok w górę w zakresie możliwości może zmienić różne aspekty społeczeństwa, w tym edukację, miejsca pracy, naukę i politykę, ostrzegając o nowych zagrożeniach, ponieważ narzędzia AI stają się coraz potężniejsze i niezależne. W podcaście z prezesem i dyrektorem generalnym YCombinator, Garrym Tanem w listopadzie, Altman powiedział, że model o1 firmy można zdefiniować jako poziom 2 i spodziewa się, że osiągną poziom 3 „szybciej, niż ludzie się spodziewają”.

W lipcu ubiegłego roku współautor artykułu przedstawił prezentację badań na wewnętrznym wydarzeniu, na którym zespoły podkreślały swoje najważniejsze projekty pod kątem świadomości w zakresie badań, według wielu źródeł. Badania zostały dobrze przyjęte przez innych pracowników, dodało jedno źródło.

Źródła uważają również, że artykuł wydawał się być w końcowej fazie, a firma zatrudniła redaktora, aby sfinalizował pracę pod koniec zeszłego roku, a także wygenerował wizualizacje dla bloga zapowiadającego artykuł. Partnerstwo OpenAI z Microsoftem zostało podane wewnętrznie jako jeden z powodów wstrzymania się z publikacją artykułu, według wielu źródeł, które rozmawiały z WIRED pod warunkiem zachowania anonimowości, ponieważ nie miały pozwolenia na rozmowę z prasą. Inne źródło mówi, że dyskusje z Microsoftem były często „wspominane jako przeszkoda w opublikowaniu artykułu”.

McCallum powiedział w komentarzu dla WIRED, że „nie jest prawdą, że powstrzymaliśmy się od dzielenia się tymi pomysłami, aby chronić partnerstwo z Microsoftem”. Inne źródło zaznajomione ze sprawą stwierdziło, że dokument nie został opublikowany, ponieważ nie spełniał standardów technicznych.

„Myślę, że pytanie, czym jest AGI, nie ma większego znaczenia” – powiedział Altman na konferencji na początku czerwca. „To termin, który ludzie definiują różnie; ta sama osoba często będzie go definiować inaczej”.

Aktualizacja 27 czerwca 2025 r., godz. 18:15 czasu wschodniego: Wired sprostował wcześniejsze doniesienia Bloomberga na temat Pięciu Poziomów.