Félnek a mesterséges intelligencia Nobel-díjat kapott atyjai, hogy munkájuk túl messzire visz

A Svéd Királyi Tudományos Akadémia bejelentette, hogy a fizikai Nobel-díjat John J. Hopfield emeritus professzornak, a Princetoni Egyetem és Geoffrey Hintonnak, a Torontói Egyetem professzorának ítéli oda. A díjat „alapvető felfedezésekért és találmányokért kapták, amelyek lehetővé teszik a gépi tanulást mesterséges neurális hálózatok segítségével”.

Hopfield és Hinton olyan mesterséges neurális hálózatokat fejlesztett ki, amelyek képesek megjegyezni az információkat és felismerni a mintákat az emberi agyat utánzó módon. Az ő 1980-as években végzett kutatásaik alapozták meg az elmúlt évtized robbanásszerű fejlődését a mesterséges intelligencia és a napjainkban mindenütt jelenlévő ajánlóalgoritmusok és generatív AI-rendszerek terén, de

A Nobel-bizottság a díj bejelentésében hangsúlyozta, milyen messzire jutott a terület, mióta Hopfield 1982-ben publikálta alapművét, amelyben egy 500-nál kevesebb paramétert tartalmazó neurális hálózatot írt le. Napjainkban a technológiai cégek több milliárd és billió paraméterrel rendelkező generatív mesterségesintelligencia-rendszereket adnak ki.

A Hopfield-hálózat 30 összekapcsolt digitális csomópont gyűjteménye volt, amelyek 1 és 0 között változtathatták értékeiket, és ennek során úgy programozhatók, hogy rögzítsék a fekete-fehér képek képpontjait ábrázoló mintákat. A fizikából származó egyenletekre támaszkodott, amelyeket annak leírására használtak, hogy a hálózatban lévő atomok hogyan hatnak egymásra. Ez a hálózat programozható bizonyos képek emlékeinek létrehozására. És amikor egy új, életlen vagy hiányos képet tápláltak bele, „el tudja képzelni”, vissza tudja számolni a memóriájában lévő leghasonlóbb képhez.

Hinton Hopfield munkájára építve olyan neurális hálózatokat tervezett, amelyek nemcsak emlékezni és újra létrehozni tudják a mintákat, hanem meg lehet őket tanítani a hasonló minták felismerésére teljesen különböző adatokból.

Ehhez képest 2023-ban már Hopfield volt az egyik legfigyelemreméltóbb aláírója további 33 ezer személyiség mellett, akik a Future of Life Institute oldalán nyílt levélben

Olyan kockázatokra hivatkoztak, mint a mesterséges intelligencia által generált propaganda, a munkahelyek extrém automatizálása, az emberi képességek elavulása és az egész társadalomra kiterjedő kontrollvesztés. A nyílt levél aláírói között vannak akadémiai kutatók és iparági vezérigazgatók, köztük például Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak és Yuval Noah Harari.

Hopfield szerint

Hinton is sokat beszél az utóbbi időben aggodalmairól, miszerint a mesterséges intelligencia túl gyorsan fejlődik ahhoz, hogy az ember irányítása alatt tarthassa. A szakma nagy neveinek egyikeként idén aláírt egy nyílt levelet, amelyben felszólították a kaliforniai kormányzót, Gavin Newsomot, hogy hozzon törvényt, amely a nagy technológiai vállalatokat felelősségre vonja emberi életeket veszélyeztető vagy anyagi károkat okozó mesterséges intelligencia modellek építéséért. Newsom végül a technológiai cégek, köztük Hinton munkaadója, a Google nyomására megvétózta a törvényjavaslatot.

Hinton professzor 2013 óta dolgozott a Google-nál, részt vett a mesterséges intelligencia fejlesztésében, de 2023 márciusában otthagyta a Google-t.

„A következő néhány évben ki kell találnunk, hogyan kezeljük ezt a fenyegetést” – nyilatkozta Hinton a Nobel-díj kihirdetését követően.