A New York Times cikke alapján az
Index is írt a legújabb Google botrányról, ami az idők klasszikus jeleit is szorosan érinti:
A Google munkatársait felháborítja, hogy a cég a Pentagonnal együtt
dolgozik egy Project Maven nevű megrendelésen. A Védelmi Minisztérium
megrendelésére készülő szoftvert állítólag analitikai célokra
használnák, de a szakértők szerint ez javíthatja a dróntámadások
pontosságát is. Eközben a Google alapdokumentumából eltűnt a Don’t be
evil (Ne légy gonosz) szlogen, ami egykor a cég hitvallása volt.
…
Fei-Fei Li, a Google vezető mesterségesintelligencia-kutatója
szeptemberi levelében figyelmeztetett arra, hogy a Google jól gondolja
meg, miként vállal szerepet a Maven-projektben.
A vezetőség tehát tisztában volt a kockázatokkal, de a saját munkatársaik haragja talán őket is meglepte. Áprilisban közös petíciót írtak alá,
amiben az állt, hogy a Google két alapítója által megfogalmazott
küldetésnyilatkozat szöges ellentétben áll azzal, hogy a vállalat
katonai fejlesztéseket végezzen. Ennek a megszegését kifogásolják most;
nem akarják, hogy az általuk fejlesztett mesterséges intelligencia a
hadsereg kezébe kerüljön.
Mostanáig körülbelül négyezer Google-munkatárs írta alá azt a
tiltakozó ívet, amit Sundar Pichai vezérigazgatónak címeztek. Nagyjából
tucatnyian ott is hagyták a Google-t. Több mint kétszáz akadémikus és
kutató kérte a Google-t, hogy hátráljon ki a Maven-projektből.”
Szóval megint a mesterséges
intelligencia. Gonosz vagy hasznos? A kérdés megválaszolásával nálam
sokkal okosabb emberek sem birkóztak meg eddig, ugyanakkor a helyzet
megítélése mégsem annyira bonyolult.
Tekintsünk például úgy a mesterséges
intelligenciára, mint bármely eszközre. Egy késre, villára vagy akár
ceruzára. Mindegyik rendkívül hasznos, és alapjában véve senkinek sem
jutna eszébe rosszat feltételezni egyikről sem, pedig mindhárom
alkalmas szörnyűségekre is. Ráadásul a három közül talán a ceruza a
legveszélyesebb, mert nemcsak szúrni lehet vele, de olyan gondolatokat
vagy akár képleteket vethetünk papírra vele, amelyek közvetetten
tömegek életébe kerülhetnek. Ugyanakkor senki sem gondolta még, hogy
bármelyiket be kéne szüntetni, hiszen az általuk elkövetett
gonoszságrokról nem a kés, a villa vagy a ceruza tehet. Illetve
helyesbítek: Nagy-Britanniában annyira elszaporodtak a késes és egyéb
szúró vagy vágóeszközzel elkövetett támadások, hogy a rendőrök egy
nemrégiben tartott kampány során csavarhúzókat, fogókat és hasonló
eszközöket is elkoboztak. Vajon hol állnak meg? Beszüntetik az
üvegpalackokat? Gumiból lesznek a bútorok? Vagy esetleg felébrednek és
rájönnek, hogy a hibát nem a berendezési és egyéb használati tárgyakban
kéne keresni?
Visszatérve a mesterséges
intelligenciára, ahogy a villát használhatjuk evésre vagy gyilkolásra,
úgy a mesterséges intelligenciát is használhatjuk jóra és rosszra is.
Egy lényeges különbséggel. Míg a villát alapvetően az étkezés
megkönnyítésére találták ki és csak „jobb híján” válik a halál
eszközévé, a mesterséges intelligencia a kezdetektől magában hordozta a
gonosz lehetőségét, éppen a benne rejlő intelligencia mértékéből
adódóan. Minél összetettebb valami, annál nagyobb a potenciál benne a
jóra és a gonoszra is.
Bár C.S. Lewis Isten teremtményeiről és a
szabad akaratról beszélt, az alábbi tőle vett idézet jól szemlélteti,
hogy mire gondolok:
„Minél jobb anyagból van egy teremtmény, annál okosabb, erősebb és
szabadabb, de annál jobb is lesz, ha jó irányban halad, viszont annál
rosszabb, ha rossz útra tér. Egy tehén nem tud se igazán jó, se igazán
rossz lenni; egy kutya már lehet jobb vagy rosszabb; egy gyermek még
jobb vagy még rosszabb; egy felnőtt ember még inkább; egy lángész még
annál is inkább; egy emberfölötti szellem a legjobb vagy a legrosszabb
lehet valamennyi közül.”
A mesterséges intelligencia valahol ezt
képviseli a tárgyak és tárgyiasult számok világában. A legmagasabb
szintű potenciált a jóra vagy a rosszra.
Egy tökéletes világban nem is lenne
miről beszélnünk. Lehet, hogy a mennyországban az egyik kedvenc
időtöltésünk lesz megismerni az intelligencia mögött rejlő cseppet sem
mesterséges isteni logikát, csakhogy most még nem egy ilyen világban
élünk. Egy olyan világban élünk, amiben a tárgyakban rejlő potenciált
előbb-utóbb kihasználják, mégpedig mindkét irányban.
Ezt olyanok is felismerték, akik maguk is érdekeltek a mesterséges intelligencia fejlődésében. Elon Musk például 2014-ben
azt mondta, hogy „a mesterséges intelligenciával magát az ördögöt idézzük meg” és ezt a véleményét azóta többször is megismételte.
“Én úgy látom, hogy jelenleg a [mesterséges intelligencia] az
emberiségre leselkedő legnagyobb egzisztenciális veszély. Úgy érzem,
szükség lenne valamiféle nemzetközi szintű szabályozásra, nehogy valami
butaságot kövessünk el.”
Musk valószínűleg jól látja a helyzetet.
Már csak arra kellene rájönnie, hogy létezik egy másik, jóval a
mesterséges felett álló intelligencia, ami megálljt parancsol majd,
mielőtt ezt a butaságot elkövetnénk, illetve mielőtt ez a butaság, amit
a jelek szerint el fogunk követni, eljutna a végkifejletig.
Közel leszünk hozzá, de mint a jó öreg
akciófilmekben, saját történetünk esetében is tudjuk, hogy a főhős nem
halhat meg. A gonosz nem győzhet. A szakadék felé robogó vonat,
valahogy meg fog állni az utolsó pillanatban.
És tényleg meg fog…
http://idokjelei.hu/2018/06/mar-a-google-sajat-munkatarsai-is-tiltakoznak-a-ceg-tevekenysege-ellen/
