AI „Ojciec chrzestny” Geoffrey Hinton ostrzega przed pułapkami, gdy opuszcza Google

Człowiek powszechnie uważany za ojca sztucznej inteligencji (AI) rzucił pracę, ostrzegając przed niebezpieczeństwami wynikającymi z rozwoju tej dziedziny.

Jeffrey Hinton, lat 75, ogłosił swoją rezygnację z Google w oświadczeniu dla New York Times, mówiąc, że teraz żałuje swojej pracy.

Powiedział BBC, że niektóre zagrożenia związane z chatbotami AI są „bardzo przerażające”.

„W tej chwili nie są mądrzejsi od nas, o ile wiem. Ale myślę, że wkrótce mogą być”.

Pionierskie badania dr Hintona nad głębokim uczeniem i sieciami neuronowymi utorowały drogę obecnym systemom sztucznej inteligencji, takim jak ChatGPT.

Ale brytyjsko-kanadyjski psycholog poznawczy i informatyk powiedział BBC, że chatboty mogą wkrótce wyprzedzić informacje przechowywane w ludzkim mózgu.

„Teraz widzimy, że rzeczy takie jak GPT-4 przyćmiewają zdrowy rozsądek człowieka i ukrywają go na długi czas. Jeśli chodzi o rozumowanie, nie jest to zbyt dobre, ale już tak jest. Proste rozumowanie.

„Biorąc pod uwagę tempo postępu, spodziewamy się bardzo szybkiej poprawy. Dlatego powinniśmy się tym martwić”.

W artykule w New York Times dr Hinton odniósł się do „złych aktorów” próbujących wykorzystać sztuczną inteligencję do „złych uczynków”.

Poproszony przez BBC o rozwinięcie, odpowiedział: „To rodzaj najgorszego scenariusza, rodzaj koszmarnego scenariusza.

„Na przykład możesz sobie wyobrazić kilku złych aktorów [Russian President Vladimir] Putin postanowił dać robotom możliwość tworzenia własnych celów podrzędnych”.

Może to ostatecznie stworzyć „podrzędne cele, takie jak„ Chcę mieć więcej mocy ”- ostrzegł naukowiec.

Dodał: „Doszedłem do wniosku, że inteligencja, którą rozwijamy, bardzo różni się od inteligencji, którą mamy.

„Jesteśmy systemami biologicznymi, a to są systemy cyfrowe. A duża różnica polega na tym, że w systemach cyfrowych istnieje wiele kopii o tej samej wadze, ten sam model świata.

„Wszystkie te repliki mogą uczyć się indywidualnie, ale natychmiast dzielić się swoją wiedzą. To tak, jakbyś miał 10 000 osób, a gdy ktoś się czegoś nauczy, wszyscy automatycznie o tym wiedzą. A te chatboty mogą nauczyć się więcej niż jakakolwiek osoba”.

Dr Hinton powiedział również, że były inne powody odejścia z pracy.

„Po pierwsze, mam 75 lat. Czas przejść na emeryturę. A po drugie, chcę powiedzieć kilka dobrych rzeczy o Google. Gdybym nie pracował w Google, byłyby bardziej wiarygodne”.

Nie chciał krytykować Google’a i przekonywał, że gigant technologiczny zachował się „bardzo odpowiedzialnie”.

Jeff Dean, główny naukowiec Google, powiedział w oświadczeniu: „Jesteśmy zobowiązani do odpowiedzialnego podejścia do sztucznej inteligencji. Wciąż uczymy się rozumieć pojawiające się zagrożenia, jednocześnie odważnie wprowadzając innowacje”.