Ilustracja: AI
Badacz z firmy Anthropic, Jacob Coxon odszedł ze stanowiska i ostrzegł, że laboratoria toczą coraz bardziej ryzykowny wyścig w kierunku stworzenia superinteligencji, która może stać się skrajnym zagrożeniem dla całej ludzkości – donosi ABC News. Podobnego zdania jest szef ds. bezpieczeństwa w Anthropic, Evan Hubinger.
Coxon ujawnił, że przez ostatnie 3 lata badał proces uczenia Sztucznej Inteligencji w Anthropic i OpenAI. Według niego, specjaliści tworzący obecnie najpotężniejsze z dotychczasowych form sztucznego intelektu realnie obawiają się, że ich prace mogą spowodować zagładę całej ludzkości.
Mimo to ludzie ci nadal prześcigają się w zbudowaniu “samodoskonalącego się nad-intelektu”. “Pędzą prosto w tym kierunku i igrają w ten sposób z naszym życiem” – ostrzega badacz na X.
Również Hubinger przyznaje, że istnieje realne ryzyko wymknięcia się technologii spod kontroli, a pracujący przy niej ludzie “obawiają się katastroficznego scenariusza”. “My całkiem poważnie obawiamy się, że AI może zabić wszystkich ludzi” – przyznaje. Według Hubingera, prawdopodobieństwo tego scenariusza w ciągu najbliższej dekady przekroczyło już 10%.
Media twierdzą, że Anthropic próbuje na różne sposoby zmniejszyć to ryzyko. Nadal jednak nie udało się rozwiązać fundamentalnego “problemu zgodności”, czyli zagwarantowania, że superinteligencja będzie działać zgodnie z ludzkim systemem wartości.
Obaj badacze nie są zresztą w swoich obawach osamotnieni. W lipcu już ponad 1300 pracowników czołowych kompanii pracujących nad AI wydało ostrzeżenie, że rozwój technologii tak przyspiesza, iż ludzie mogą wkrótce przestać rozumieć i kontrolować to, co sami stworzyli.
O zagrożeniu dla ludzkości mówi też Wysoki Komisarz ONZ ds. Praw Człowieka, Volker Türk. Wzywa, by w zakresie rozwoju AI “wprowadzić ograniczenia, których nie da się obejść”, zanim nie będzie za późno.
