Człowiek powszechnie uważany za ojca sztucznej inteligencji (AI) rzucił pracę, ostrzegając przed niebezpieczeństwami wynikającymi z rozwoju tej dziedziny.
Jeffrey Hinton, lat 75, ogłosił swoją rezygnację z Google w oświadczeniu dla New York Times, mówiąc, że teraz żałuje swojej pracy.
Powiedział BBC, że niektóre zagrożenia związane z chatbotami AI są „bardzo przerażające”.
„W tej chwili nie są mądrzejsi od nas, o ile wiem. Ale myślę, że wkrótce mogą być”.
Pionierskie badania dr Hintona nad głębokim uczeniem i sieciami neuronowymi utorowały drogę obecnym systemom sztucznej inteligencji, takim jak ChatGPT.
Ale brytyjsko-kanadyjski psycholog poznawczy i informatyk powiedział BBC, że chatboty mogą wkrótce wyprzedzić informacje przechowywane w ludzkim mózgu.
„Teraz widzimy, że rzeczy takie jak GPT-4 przyćmiewają zdrowy rozsądek człowieka i ukrywają go na długi czas. Jeśli chodzi o rozumowanie, nie jest to zbyt dobre, ale już tak jest. Proste rozumowanie.
„Biorąc pod uwagę tempo postępu, spodziewamy się bardzo szybkiej poprawy. Dlatego powinniśmy się tym martwić”.
W artykule w New York Times dr Hinton odniósł się do „złych aktorów” próbujących wykorzystać sztuczną inteligencję do „złych uczynków”.
Poproszony przez BBC o rozwinięcie, odpowiedział: „To rodzaj najgorszego scenariusza, rodzaj koszmarnego scenariusza.
„Na przykład możesz sobie wyobrazić kilku złych aktorów [Russian President Vladimir] Putin postanowił dać robotom możliwość tworzenia własnych celów podrzędnych”.
Może to ostatecznie stworzyć „podrzędne cele, takie jak„ Chcę mieć więcej mocy ”- ostrzegł naukowiec.
Dodał: „Doszedłem do wniosku, że inteligencja, którą rozwijamy, bardzo różni się od inteligencji, którą mamy.
„Jesteśmy systemami biologicznymi, a to są systemy cyfrowe. A duża różnica polega na tym, że w systemach cyfrowych istnieje wiele kopii o tej samej wadze, ten sam model świata.
„Wszystkie te repliki mogą uczyć się indywidualnie, ale natychmiast dzielić się swoją wiedzą. To tak, jakbyś miał 10 000 osób, a gdy ktoś się czegoś nauczy, wszyscy automatycznie o tym wiedzą. A te chatboty mogą nauczyć się więcej niż jakakolwiek osoba”.
Dr Hinton powiedział również, że były inne powody odejścia z pracy.
„Po pierwsze, mam 75 lat. Czas przejść na emeryturę. A po drugie, chcę powiedzieć kilka dobrych rzeczy o Google. Gdybym nie pracował w Google, byłyby bardziej wiarygodne”.
Nie chciał krytykować Google’a i przekonywał, że gigant technologiczny zachował się „bardzo odpowiedzialnie”.
Jeff Dean, główny naukowiec Google, powiedział w oświadczeniu: „Jesteśmy zobowiązani do odpowiedzialnego podejścia do sztucznej inteligencji. Wciąż uczymy się rozumieć pojawiające się zagrożenia, jednocześnie odważnie wprowadzając innowacje”.
„Totalna praktyka zombie. Nieprzepraszający analityk. Webman. Typowy fanatyk piwa. Introwertyk. Pisarz”.