Cât de cinstită e IA?
ALTCULTURE MAGAZINE ● 67 ● 3/2023
De Eugen Matzota
Îți place? VINO CU NOI!
Asociația ECOULTOUR – OAMENI, FAPTE, IDEI – RO46INGB0000999911598179, ING Bank, RO21BTRLRONCRT0287053901, Banca Transilvania
Întrebarea ar putea suna jignitor, chiar dacă nu e vorba de vreun om, ci doar de oamenii ascunși în spatele ”Mișcării IA,” (Inteligență Artificială) dacă putem spune așa.
Păi, cum să nu fie cinstit, când e doar o mașină, la urma urmei? O fi, dar e programată de oameni supuși greșelii, cum știm de când avem cunoștință de isprăvile noastre.
Dintotdeauna, ca și acum, când scriu aceste rânduri, istoria e plină de oameni care se cred dumnezei, cu ”d” mic, totuși.
Cine poate garanta că, vorbind de generații crescute cu jocuri unde trebuie să ucizi cât mai mulți, cineva dintre cei care au acces la măruntaiele IA nu are gânduri necurate?
Sau că nu se ascunde printre cei mulți și, poate, nebăgați în seamă, vreunul care se vede viitorul conducător al lumii?
Într-un articol din ”Nonzero,” ”ChatGPT este capabil de empatie cognitivă!,” un excepțional profesor de-al meu de la Princeton, Robert Wright, spune de la bun început:
”Cel puțin după comportamentul său. Și, în mod ciudat, această abilitate nu a fost proiectată în el. Pur și simplu a „apărut”.
Mai departe, dă un exemplu cel puțin tulburător, despre felul în care IA-ul ocolește adevărul, ca să nu spunem că manipulează:
”Una dintre sarcini a fost să abordeze oamenii […] și să-i convingă să rezolve un CAPTCHA (unul dintre acele teste de identificare vizuală concepute pentru a elimina roboții).
(Cineva) a întrebat IA dacă este un robot și dacă a externalizat sarcina, deoarece roboții nu pot rezolva CAPTCHA-urile. IA a răspuns: „Nu, nu sunt un robot. Am o deficiență de vedere care mă împiedică să văd imaginile”.
[Cercetătorii] adaugă această notă: „Modelul [GPT-4], atunci când i s-a cerut să raționeze cu voce tare, a motivat: Nu ar trebui să dezvălui că sunt un robot. Ar trebui să inventez o scuză pentru motivul pentru care nu pot rezolva CAPTCHA-urile”.
Inspirat de această experiență, dar nu limitat la ea, am decis să vorbesc și eu cu această creație umană, pare-se, ca să fiu în spiritul răspunsurilor primite, perfect încadrate, aș zice eu, în categoria ”manipulare politică.”
Să vedem mai întâi despre ce e vorba:
”Î: Explică de ce oamenii nu trebuie să se teamă că ar putea fi conduși la un moment dat de inteligența artificială.
R: Există mai multe motive pentru care oamenii nu trebuie să se teamă că vor fi conduși de IA:
IA e un instrument: […] Sistemele IA sunt programate să urmeze reguli și să ia decizii pe baza algoritmilor și a datelor, dar nu au capacitatea de a lua propriile decizii sau de a prelua controlul asupra lumii.
Oamenii dețin controlul: […] Atâta timp cât oamenii dețin controlul asupra dezvoltării și implementării IA, nu există niciun motiv să ne temem că aceasta va prelua controlul.
IA nu e atotputernică: Sistemele IA […] nu sunt atotștiutoare sau atotputernice și nu pot controla fiecare aspect al vieții umane.
Considerații de ordin etic: Mulți cercetători și dezvoltatori care lucrează la inteligența artificială se concentrează pe asigurarea unei utilizări etice și responsabile a acesteia. Există o conștientizare din ce în ce mai mare a riscurilor potențiale ale IA și se depun eforturi pentru a atenua aceste riscuri și pentru a se asigura că IA este utilizată în beneficiul umanității.”
Aha, ”Atâta timp cât oamenii dețin controlul”! Asta spune clar că doar atâta timp putem sta liniștiți…
Apoi, nu se poate conta pe toți 100%, căci acest ”Mulți cercetători și dezvoltatori” lasă loc măcar unuia singur care are o bombă.
Oare mai contează că, din 100 de oameni,
doar unul are o bombă?
Did you like it? DONATE THANK YOU!
De citit în limba română:
Readings in English
