Keď mal Jeffrey Hinton v roku 2018 morálnu námietku voči spolupráci spoločnosti Google s americkou armádou, nezúčastnil sa na verejných protestoch ani neuviedol svoje meno v otvorenom liste sťažnosti podpísanom viac ako 4 000 jeho kolegami.

Namiesto toho sa práve rozprával so Sergeyom Brinom, spoluzakladateľom spoločnosti Google. Povedal, že je z toho tiež trochu rozrušený.Hinton vtedy povedal v rozhovore.

Tento incident je symbolom Hintonovho tichého vplyvu vo svete umelej inteligencie. 75-ročný profesor je uctievaný ako jeden z „krstných otcov“ umelej inteligencie vďaka svojej formatívnej práci v oblasti hlbokého učenia – oblasti umelej inteligencie, ktorá poháňala obrovské pokroky, ktoré sa dejú v tomto sektore.

Príbeh však odráža aj Hintonovu lojalitu, podľa tých, ktorí ho poznajú najlepšie. V zásade nikdy verejne nezverejnil žiadne inštitucionálne sťažnosti, etické ani iné.

Práve toto presvedčenie ho viedlo k tomu, že minulý týždeň odstúpil z funkcie viceprezidenta a inžiniera v Google, aby mohol slobodnejšie hovoriť o svojich rastúcich obavách z nebezpečenstva umelej inteligencie pre ľudstvo.

Jeho dlhoročný spolupracovník a priateľ Yoshua Bengio, ktorý vyhral Turingovu cenu spolu s Hintonom a Yan-Locunom v roku 2018, povedal, že videl prichádzajúcu rezignáciu. „Mohol zostať v Google a rozprávať sa, ale jeho zmysel pre lojalitu nebol,“ povedal Bengio.

Hintonova rezignácia nasleduje po sérii prelomových spustení AI za posledných šesť mesiacov, počnúc ChatGPT od Microsoftu v novembri a chatbotom Google Bard v marci.

Hinton vyjadril obavy, že preteky medzi Microsoftom a Google by posunuli vývoj umelej inteligencie vpred bez náležitých bariér a pravidiel.

„Myslím si, že Google bol na začiatku veľmi zodpovedný,“ povedal v stredu v prejave na podujatí EmTech Digital po oznámení svojej rezignácie. „Keď OpenAI vytvorilo podobné veci s .

Od 70. rokov 20. storočia bol Hinton priekopníkom vo vývoji „neurónových sietí“, technológie, ktorá sa pokúša napodobniť fungovanie mozgu. Teraz podporuje väčšinu nástrojov a produktov AI, ktoré dnes používame, od Google Translate a Bard až po ChatGPT a samoriadiace autá.

Tento týždeň však priznal obavy z jej rýchleho vývoja, ktorý by mohol viesť k dezinformáciám zaplavujúcim verejnú doménu a umelej inteligencii, ktorá si uzurpuje viac ľudských pracovných miest, ako sa očakávalo.

„Čo ma znepokojuje, je, že sa to stane [make] Bohatí sú bohatší a chudobní chudobnejší. ako to robíš. . . „Spoločnosť je čoraz násilnejšia,“ povedal Hinton. „Táto technológia, ktorá musí byť skvelá… sa vyvíja v spoločnosti, ktorá nie je navrhnutá tak, aby bola využívaná v prospech všetkých.“

Hinton tiež varoval pred dlhodobými hrozbami, ktoré systémy AI predstavujú pre ľudí, ak sa tejto technológii poskytne príliš veľa autonómie. Vždy si myslel, že toto existenčné nebezpečenstvo je mimo dosahu, ale nedávno zmenil svoje myslenie o jeho naliehavosti.

„Je celkom pravdepodobné,“ povedal, „že ľudstvo je prechodným štádiom evolúcie inteligencie.“ Dodal, že Hintonovo rozhodnutie opustiť Google po desaťročí bolo vyvolané akademickým kolegom, ktorý ho presvedčil, aby o tom hovoril.

Hinton sa narodil v Londýne a pochádzal zo slávnej línie učencov. Je pravnukom britských matematikov Mary a Georgea Booleovcov, z ktorých druhý vynašiel booleovskú logiku, teóriu, ktorá je základom modernej výpočtovej techniky.

Ako kognitívny psychológ sa Hintonova práca v oblasti umelej inteligencie zamerala na priblíženie sa ľudskej inteligencii – nielen na vybudovanie technológie AI, ale aj na objasnenie spôsobu, akým fungujú naše mozgy.

Jeho pôvod znamená, že „nie je tým najmatematickejším človekom, akého nájdete v komunite strojového učenia,“ povedal Stuart Russell, profesor umelej inteligencie na Kalifornskej univerzite v Berkeley a akademický pracovník na Hinton School.

Poukázal na Hintonov prelom v roku 1986, keď publikoval článok o technike nazývanej „backpropagation“, ktorá ukázala, ako sa počítačové programy môžu časom učiť.

„Je to jednoznačne kľúčová karta,“ povedal Russell. „Ale neodvodil… ovládanie tak, ako by mohol matematik. Použil svoju intuíciu, aby prišiel na metódu, ktorá by fungovala.“

Hinton nebol vždy na verejnosti otvorene o svojich morálnych názoroch, ale v súkromí ich dával jasne najavo.

V roku 1987, keď bol docentom na Carnegie Mellon University v Spojených štátoch, sa rozhodol opustiť svoju pozíciu a emigrovať do Kanady.

Jeden z dôvodov, ktoré uviedol, bol podľa Bengia morálny – obával sa využívania technológií, najmä umelej inteligencie, vo vojne a veľká časť jeho financií pochádzala z americkej armády.

„Chcel mať dobrý pocit z financií, ktoré dostával, az práce, ktorú robil,“ povedal Bengio. „On a ja zdieľame hodnoty o spoločnosti. Že na ľudských bytostiach záleží, že dôstojnosť všetkých ľudských bytostí je nevyhnutná. A každý by mal mať úžitok z pokroku, ktorý robí veda.“

V roku 2012 Hinton a jeho postgraduálni študenti na univerzite v Toronte – vrátane Ilya Sutskivera, teraz spoluzakladateľa OpenAI – urobili prielom v oblasti počítačového videnia. Vybudovali neurónové siete, ktoré dokážu rozpoznať objekty na obrázkoch v presnejších veľkostiach, ako to bolo možné predtým. Na základe tejto práce založili svoj prvý startup DNNresearch.

Ich spoločnosť, ktorá nevyrábala žiadne produkty, bola v roku 2013 predaná spoločnosti Google za 44 miliónov dolárov po tom, čo konkurenčná aukcia viedla k tomu, že čínske firmy Baidu, Microsoft a DeepMind sa uchádzali o odbornosť trojice.

Odvtedy strávil Hinton polovicu svojho času v Google a druhú polovicu ako profesor na University of Toronto.

Podľa Russella Hinton neustále prichádza s novými nápadmi a skúša nové veci. „Zakaždým, keď mal nový nápad, na konci svojho prejavu povedal:“ A toto Ako funguje mozog! „

Keď sa ho na pódiu spýtali, či ľutuje svoje celoživotné dielo, keďže to mohlo prispieť k nespočetným škodám, ktoré načrtol, Hinton povedal, že o tom premýšľal.

„Táto etapa [AI] Nebolo očakávané. Až donedávna som si myslel, že táto existenčná kríza je pritažená za vlasy. „Takže naozaj neľutujem to, čo robím.“