euskaraespañol

Image of the day

Víctor Etxebarria Ecenarro

Zientzia pseudozientzia bihurtzeko mehatxua dakar adimen artifizialaren negozioak

Fisika Zientzietako doktorea eta Sistemen Ingeniaritza eta Automatikako katedraduna

  • Cathedra

First publication date: 06/06/2024

Víctor Etxebarria Ecenarro | Photo: Fernando Casabella. UPV/EHU.

Artikulu hau jatorriz The Conversation argitalpenean aurki daiteke.

Adimen artifizialaz (AA) hitz egitean, hura sostengatzen duten zientzien oinarrietatik abiatu behar dugu, zorroztasunez. Beste era batera esanda, inoiz ere ez dugu oinarritu behar saltzen saiatzen ari diren ‘produktu berrien’ gainean modu artifizialean sortutako espektatibetan edota komunikabide guztietara iritsi den hiperbole publizitario izugarrian (‘hype’). Haren arrakastaren gaineko neurriz gorako baieztapenek kalte handia egiten diote AAk zientzia gisa duen ospeari, eta ia pseudozientzia baten gisara erabiltzea eragin dezakete, astrologia, terraplanismoa eta homeopatia bezala.

Udak eta neguak

AAren gaineko interesek, finantzaketak eta benetako aurrerapenek historian zehar izandako gorabehera handiak azaldu zituen Jonathan Grudin zientzialariak, 2009an argitaratu zuen artikulu batean. Urtaroen metafora erabili zuen, AAk jaio zenetik izandako bilakaera ulertzeko.

Une honetan, XXI. mendearen lehen laurdena amaitzen ari den honetan, une goren batean gaude, baina AAk gainbehera handiak izan ditzake etorkizunean: ‘AAren neguak’. Izan ere, oraindik asko dago ikertzeko eta ulertzeko jakintza arlo garrantzitsu horri buruz.

Arlo horretako komunitate zientifikoak badaki urrun gaudela benetako nerbio sistema konputazionalak sortzetik edo adimena zertan datzan ulertzetik. Ikertzaile horiek, era berean, onartzen dute ez dagoela ebidentziarik —ez matematikorik, ez fisikorik, ez biologikorik—, eta ez dela ezagutzen gizakiaren garunaren pentsatzeko gaitasunen baliokidea den prototiporik. Hori dela eta, oraindik lan handia egin behar da hainbat arlotan, zientzian oinarrituta aurrera egin nahi badugu, urrats serio eta sendoekin.

AA sortzaileak degeneratiboak dira

AA industriaren azkenaldiko produkturik ezagunenak ‘AA sortzaileak’ dira. Horiek, batez ere, tamaina handiko hizkuntza ereduekin (LLM) entrenatutako sare neuronal konputazionaletan oinarritzen dira. ChatGPT, MidJourney eta Sora dira adibiderik ezagunenak. Horiek gai dira testua, grafikoak, soinua eta bideoak sortzeko.

Interneten dauden datu kantitate erraldoiekin entrenatzen dira tresna konputazional horiek. Datu horiek pertsonek sortuak dira, eta horien gaineko legezko egiletza eskubideak dituzten arren, datuek libre zirkulatzen dute sarean zehar.

Enpresa askok, demanda judizialak saihesteko edo kostuak aurrezteko, euren AA propioekin sortutako datuak erabiltzen dituzte makinak entrenatzen jarraitzeko. Matematikak frogatu duenez, makina entrenatzeko makinak berak aurrez sortutako datuak erabiliz gero, modu errekurtsiboan, ‘ereduaren kolapsoa’ izeneko efektu estatistiko bat gertatzen da.

Kolapso horrek honako ondorioak ditu: desinformazioa; edukiaren degenerazioa; gero eta ikaskuntza eredu oker gehiago izatea; eta Interneten kolapso posiblea, iturri fidagarri gisa.

Badakigu AA askok itxura oneko edukia sortzen dutela, baina faltsua. Web bilatzaile bat ChatGPT-ren gisako AA sortzaile batean oinarrituz gero, emaitza oso sinesgarria izan liteke, baina okerra. Baliozkotzat jotzen badugu, frogatu gabe, eta gainera eduki hori AA entrenatzeko erabiltzen badugu, desinformazioz beteko litzateke gure informazio iturri garrantzitsuenetako bat.

Praxi txarra AAren industrian

AAren negozioa ez da gelditzen, nahiz eta zientziak frogatu duen ez dagoela AA indartsu edo orokorrik (‘AGI’), eta orain dauden tresna partikularrek (AA ahula) hobekuntza nabarmenak behar dituztela arazo batzuk ebazten zuzen laguntzeko.

Enpresa teknologiko askok ‘hype’-a handitzen jarraitzen dute, haien emaitza ekonomikoek hazten jarrai dezaten. Sektoreko enpresari garrantzitsu ugarik badakite esaten dutena ez dela posible. Esaterako, Elon Musken eta Mark Zuckerbergen orain dela gutxiko adierazpen edo ‘iragarpen’ batzuk aipatu ditzakegu. Izan ere, laster euren produktuetan existitzen ez den adimen artifizial orokor hori sartuko dutela diote.

Worldcoin enpresako Sam Altmanen (ChatGPT sortu zuen enpresako, OpenAI-ko, CEOa) praxia are gaitzesgarriagoa da. Kriptodiruarekin lan egiten du enpresa horrek. Oso deigarria izan da mundu osoan egin duen kanpaina, ‘orb’ batzuen bidez pertsonen datu biometrikoak atzemateko. Gailu horiek irisa eskaneatzen dute, eta erakargarriak dira gazteentzat. Kanpaina horren bidez erakarritako bezeroek haien datuak ematen dituzte, token (txartel digital bat) baten truke.

Worldcoinek dio etorkizunean errenta unibertsala ematen saiatuko dela kriptodirutan, AAren aurrerapenaren ondorioz galdutako enplegua konpentsatzeko. Zorionez, adierazpen baldar hori dela eta, herrialde askok debekatu egin dute haren jarduna, baina beste asko erakarri ditu dagoeneko enpresak.

Singularitatearen gurtza

Ray Kurzweil ingeniari eta asmatzaile ezagunak (liburu asko idatzi ditu AAri, makina espiritualei eta transhumanismoari buruz) liburu arrakastatsua idatzi zuen 2005ean, ‘La singularidad está cerca’ izenekoa.

Singularitate teknologikoa’ delakoa gertakari hipotetiko bat da. Gertakari horren bidez, makinak adimendunagoak izango dira gizakia baino.

Kurzweilen argudioa ideia sinplista batean oinarritzen da: “errendimendu azeleratuen legea”. Hazkunde zientifikoa eta teknologikoa esponentziala dela defendatzen du, industria informatikoko Mooreren legearen bertsio orokortu gisa.

Konputazioaren industriako eta zientziako kide garrantzitsu batzuk singularitatearen iragarpenaren aurka agertu ziren duela urte asko. Adibidez, Gordon Moore (Intelen sortzaileetako bat), Paul Allen (Microsoften sortzaileetako bat) eta Mark Greaves. Aipatzen duten arrazoietako bat zera da, neurozientziak ez duela konputadoreek bezala funtzionatzen, eta gure buruak nola funtzionatzen duen ulertzea galarazten diguten konplexutasun geruzak argitzen hasi baino ez garela egin oraindik.

Kurzweilek Singularitatearen Unibertsitatea sortu zuen 2008an, Kalifornian, “buruzagi talde bat biltzeko, hezteko eta inspiratzeko”. Haren liburu nagusia termino zientifikoekin idatzita dago, baina dogmatikoa da eta ez du inolako zalantzarik agertzen baieztapenak edo profeziak egiten. Funtsean, transhumanismoan duen fedeari buruzko testu bat da. Singularitatearen Unibertsitateak azken mendean sortu diren beste gurtza batzuen antz handia du, hala nola zientziologiarena.

Kurzweilek 2024ko udan jarriko du salgai hurrengo liburua: ‘The Singularity Is Nearer’. Ziur asko, gehien saldutako liburuen artean kokatuko da. Haren unibertsitatea hedatu nahi duela iragarri du, Tel Aviven eta Sevillan egoitza berriak jarrita.

Kurzweilen testuak iragartzen duenez, 2029an iritsiko da singularitatea. Komunitate zientifikoa ezagutzaren arloan aurrera egiten saiatzen den bitartean, AAren negozioak nahastea sortzen du, edozer gauza saltzen du eta zientzia hori pseudozientzia arriskutsu bilakatzen du.

The Conversation