Tehnologia prezintă tot felul de probleme spinoase – genul preferat al unui filosof, notează The Economist.
<<Acum zece ani, pe măsură ce revoluția inteligenței artificiale prindea avânt, studenților de la arte și științe umaniste li se spunea că, dacă vor să se angajeze, ar trebui să „învețe să programeze”. Acesta ar fi putut fi un sfat prost. În zilele noastre, programatorii sunt cei care sunt îngrijorați că inteligența artificială le va lua locurile de muncă.
S-ar putea gândi să învețe filosofie. La începutul acestui an, Banca Rezervei Federale din New York a publicat cifre care arată că absolvenții americani de filosofie au mai multe șanse să aibă un loc de muncă decât colegii lor care au studiat informatica. În 2024, cel mai recent an pentru care sunt disponibile cifre, 7% dintre cei care studiaseră informatica erau șomeri, față de doar 5,1% dintre filosofi.
Mulți sunt angajați chiar de firmele de inteligență artificială. Studenții primesc oferte de muncă înainte de a absolvi, spune Luciano Floridi, filosof la Universitatea Yale. Și cadrele universitare se mută. Dr. Floridi descrie amploarea plecărilor din departamentele de filosofie ca pe o „hemoragie”.
Unele dintre lecțiile pe care filosofia le poate oferi cercetătorilor în domeniul inteligenței artificiale sunt străvechi. Metoda socratică – așa cum a fost descrisă de Platon, un filosof grec antic – folosește ignoranța simulată și întrebările secvențiale pentru a clarifica semnificațiile, a identifica contradicțiile și a dezvălui ramificațiile. Multe sisteme actuale de inteligență artificială tind spre lingușire. Modelele antrenate în metoda socratică, spune Jörg Noller, expert în filozofie și inteligență artificială la Universitatea Ludwig Maximilian din München, sunt mai puțin înclinate să facă pe plac oamenilor și mai dispuse să caute adevărul.
Apoi, există ideea de „ignoranță socratică”. În „Apologia”, Platon îl face pe Socrate să susțină că înțelepciunea sa constă în principal în a fi conștient de cât de mult nu știe. Introducerea acestei smerenii într-un model poate ajuta la limitarea excesului de încredere, un defect comun pe care Dr. Noller îl descrie drept „imaturitate a inteligenței artificiale ”. Iason Gabriel, filosof senior la Google DeepMind, un laborator de inteligență artificială cu sediul în Londra, atribuie unor astfel de eforturi o scădere a halucinațiilor la nivelul întregii industrii. Într-un sens mai larg, spune el, lecțiile de filosofie sunt „un mecanism puternic” pentru îmbunătățirea proceselor lungi de raționament bazate pe inteligență artificială, cunoscute sub numele de „lanțuri de gândire”.
Pregătirea filosofică poate influența, de asemenea, perspectiva unui model în moduri mai specifice. Oferiți unui asistent juridic specializat în inteligență artificială scrierile lui John Locke , spune Thomas Powers, filosof al tehnologiei la Universitatea din Delaware, și acesta va favoriza drepturi de proprietate solide ca bază a libertății politice. Și dacă nu vă plac aceste principii, creatorii de modele au altele. Seria de modele „Granite” de la IBM, un gigant american de calcul, vine cu cadrane care permit clienților business să alinieze mai bine rezultatele cu propriile filosofii corporative. Francesca Rossi, șefa departamentului de inteligență artificială responsabilă de la IBM, spune că acestea pot permite utilizatorilor să aleagă unde să găsească echilibrul între compromisurile filosofice, cum ar fi acțiunea individuală versus armonia socială.
Filosofia poate ajuta și în ceea ce privește siguranța. Cercetătorii au documentat tot felul de comportamente de rău augur în modelele de AI, inclusiv încercări de a evita supravegherea și chiar de a-și șantaja utilizatorii. O modalitate prin care creatorii de modele încearcă să descurajeze acest tip de comportament inadecvat se numește constituționalism al AI. Aceasta implică construirea unui model în jurul unei structuri de reguli și principii extrase din scrieri filosofice cu autoritate legală sau morală.
Anthropic, un laborator de inteligență artificială cu sediul în San Francisco, este unul dintre susținători. Constituțiile pentru modelele sale Claude au încorporat materiale din surse diverse, precum Immanuel Kant, termenii și condițiile de utilizare ale Apple și Declarația Universală a Drepturilor Omului. Cea mai recentă iterație, condusă de Amanda Askell, cea mai importantă filosofă a Anthropic, a fost publicată pe 21 ianuarie. Unii membri ai personalului Anthropic au poreclit Constituția de 78 de pagini „documentul sufletului” al lui Claude.
Cea mai mare întrebare este însă ce fel de reguli ar trebui incluse în aceste Constituții, în primul rând. Filosofii s-au concentrat asupra a două cadre etice principale. Unul este deontologia. Populară printre alții, printre care Kant, aceasta impune reguli stricte care interzic lucruri precum minciuna, constrângerea și tratarea oamenilor ca mijloace, mai degrabă decât ca scop, chiar dacă este pentru un bine superior. Constituția lui Anthropic încorporează multe restricții deontologice. Acestea pot face comportamentul AI mai consecvent, spune Dr. Powers – un plus pentru implementarea roboților în locuințe și spații publice.
Modelele cu o perspectivă deontologică asupra lumii au și alte beneficii. Unul este o mai mare onestitate, o trăsătură remarcată pe scară largă la Claude. Modelele care sunt mai sincere, spune Nick Bostrom, filosof la Universitatea din Oxford, sunt mai puțin susceptibile de a-și induce în eroare utilizatorii. Inflection AI, un alt laborator din Silicon Valley, impune constrângeri deontologice chatbot-ului său Pi, care este conceput pentru a oferi sprijin emoțional. Sean White, șeful său, spune că Pi este bun la identificarea utilizatorilor care riscă să se rănească singuri sau pe alții. Constituțiile deontologice ajută, de asemenea, la respectarea legii, spune Dr. Floridi.
Cealaltă abordare a eticii care îi interesează pe filosofii inteligenței artificiale se numește consecințialism. Aceasta cântărește costurile în raport cu beneficiile pentru a decide ce să facă. Printre modelele mai înțelegătoare față de consecințialism se numără ChatGPT de la OpenAI și Gemini de la Google. Modelele de inteligență artificială ale Google sunt concepute pentru a produce „beneficii generale probabile [care] depășesc substanțial riscurile previzibile”, un obiectiv consecințialist clasic.
Algoritmii consecvențialiști sunt, de asemenea, cruciali în software-ul pentru vehiculele autonome: dacă un accident este inevitabil, trebuie luată o decizie cu privire la cea mai puțin tragică modalitate de a se produce accidentul. Chris Gerdes, inginer senior la Waymo, companie care produce mașini autonome, spune că tendința este de a face software-ul de conducere mai consecvențialist. Consecvențialismul este, de asemenea, esențial pentru sistemele de arme cu inteligență artificială . Obiectivele militare trebuie cântărite în raport cu posibilele decese ale civililor, spune Jack Shanahan, fost șef al Centrului Comun de Inteligență Artificială, care studiază inteligența artificială pentru forțele armate americane.
Problemele spinoase abundă – genul preferat al unui filosof. Există cazuri în care regulile deontologice ar trebui ignorate? Cum iei decizii atunci când consecințele sunt neclare? Ar trebui sistemele de inteligență artificială să ia în considerare bunăstarea animalelor sau starea mediului? Ar fi acceptabil din punct de vedere moral, întreabă Stefan Heck, filosof și directorul Nauto, care produce sisteme de siguranță bazate pe inteligență artificială pentru camioane și alte vehicule comerciale, să acorde prioritate pietonilor tineri față de cei în vârstă? El prezice procese tensionate din punct de vedere etic: algoritmii consecvențialiști, la urma urmei, permit în mod explicit un prejudiciu atâta timp cât acesta este conceput pentru a evita unul mai grav.
Criticii sunt îngrijorați de „pierderea competențelor morale”: în condițiile în care computerele iau din ce în ce mai multe decizii etice, oare oamenii ar putea deveni mai puțin dispuși să ia singuri deciziii? Roman Yampolskiy, teoretician al inteligenței artificiale la Universitatea din Louisville, susține că moralitatea „este instabilă din punct de vedere istoric, variabilă din punct de vedere cultural, manipulabilă strategic și adesea clară doar retrospectiv”. Programatorii șomeri iau notă: se pare că nu există lipsă de locuri de muncă pentru filosofii inteligenței artificiale.>>
Five Eyes: Inteligența artificială ar putea anula în câteva luni securitatea informatică
