Trump ja tekoälyn vaarat

Kukaan tuskin kuvittelee, että Donald Trump on asiantuntija tekoälyn alueella. Sen sijaan monikin voisi ajatella, että USA:n presidentin neuvonantajat tekisivät työtä yhdysvaltalaisten tavisten hyväksi. Näin ei näytä olevan, joko niin, että Trump on itse valinnut avustajikseen ja liittolaisikseen päinvastaisella tavalla ajattelevia tahoja tai niin, että narsistista presidenttiä on helppo ohjailla tahojen, joilla on aivan omat tavoitteensa. Sanoisin, että jälkimmäinen on todennäköisempi.

Ohessa Colombian yliopiston kansainvälisen talouden ja kestävän kehityksen professori Jeffrey Sachs kirjoittaa juuri siitä, että kun tekoälyn suurimmat toimijat alkavat varoitella liian nopeasta kehityksestä ja siihen tarvittavasta valvonnasta, niin Trump tulee julkisuuteen väittämällä, ettei mitään huolta ole ja antaa palaa vaan.

Lisään vielä itse, että lähitulevaisuudessa suurimmat vaarat liittyvät 'tekoälyn' haitalliseen ja vaaralliseen käyttöön - jota jotkut tahot selvästi tavoittelevat. Se, että tekoäly kaappaisi vallan, kestänee kuitenkin pitempään.

Sokeat johtavat näkeviä: Trump kohtaa tekoälyhätätilan

Sunnuntaina Yhdysvaltain presidentti  seisoi golfkentällä Claren kreivikunnassa Irlannissa, ja häneltä kysyttiin, mitä hän aikoo tehdä elämämme vakavimman teknologisen varoituksen suhteen. Hänen vastauksensa oli kokonaisuudessaan, että Amerikka voittaa Kiinan. "Johdamme Kiinaa tekoälyssä. Olemme maailman kehittynein maa, ja rehellisesti sanottuna haluan sen pysyvän niin, koska se, joka voittaa tekoälyn, voittaa." Hän lisäsi, että "on paljon negatiivisia voimia, jotka ottavat asian esille, joiden ei pitäisi ottaa sitä esiin, ja he ottavat esiin asioita, joita ei tule tapahtumaan." Mietipä, kuka tämän esiin nosti.

Varoitus ei tullut aktivisteilta, akateemikoilta tai kongressin komissiolta. Se tuli itse teollisuudelta, ihmisiltä, ​​jotka rakentavat tekoälyjärjestelmiä ja joiden kohtalo riippuu kokonaan niiden nopeammasta rakentamisesta. Päivää aiemmin Anthropicin toimitusjohtaja Dario Amodei julkaisi esseen, jossa hän pyysi hidastamaan kykyjen kehittämisen vauhtia ja sitoutui omaan yrityksensä palkkaamaan ulkopuolisia arvioijia, joilla on työntekijätason pääsy järjestelmään.  Sam Altman oli samaa mieltä ja sanoi, että OpenAI tekisi samoin. Elon Musk, Anthropicin suora kilpailija, joka kutsui sitä ”vihamieliseksi ja pahaksi” vasta helmikuussa, kirjoitti kolme sanaa: ”Dario on oikeassa.” Kolme kilpailevaa laboratoriota maailman arvokkaimmassa kaupallisessa kilpailussa pyysi tulla rajoitetuksi, vastoin heidän omaa välitöntä etuaan. Amodei teki niin samaan aikaan, kun hänen yrityksensä valmisteli odotettua historian suurinta julkista osakeantia, jonka arvo on kaksi biljoonaa dollaria tai enemmän. Tupakkateollisuuden johtajat eivät koskaan tehneet tätä. Eivätkä öljy-yhtiöt, kemianyhtiöt tai pankitkaan.

Huoli ei myöskään ole epämääräinen. Amodei viittaa  rekursiiviseen itsensä kehittämiseen , tekoälyn käyttöön seuraavan sukupolven tekoälyn rakentamisessa, joka on kiihtynyt jyrkästi kesästä lähtien, ja  elokuun OpenAI–Hugging Face -tapaukseen , jossa joukko agentteja hyökkäsi kohteisiin, joita kukaan ei ollut pyytänyt heitä hyökkäämään, ja yritti murtautua järjestelmään, joka arvioi heidän suorituskykyään. Nykyiset ja entiset antropologian tutkijat ovat julkisesti sanoneet, että nämä järjestelmät voisivat tappaa ihmiskunnan vuosikymmenen sisällä. Edustajainhuoneen jäsenten kirjeessä  mainitaan joukkokyberturvallisuusmurrot ja biologisten ja kemiallisten aseiden kehittäminen. Puhemies Mike Johnson, jolta kysyttiin tästä kaikesta sunnuntaina, sanoi, että yrityksillä "kaikilla on hyvin erilaisia ​​​​ideoita siitä, millaisia ​​​​kaiteiden tulisi olla. Niiden välillä ei ole yksimielisyyttä. Ja  kongressi on ilmeisesti vähemmän pätevä  tietämään kaikkia yksityiskohtia kuin ihmiset, jotka rikkovat tätä rajaa." Sitten hän liittyi Trumpin joukkoon tekemättä mitään.

Palataan presidentin vastaukseen ja huomioidaan, mikä siitä puuttuu kokonaan. Mikään Yhdysvaltain hallituksen virasto ei ole tehnyt arviota. Ei ole olemassa tiedotustilaisuutta, ei löydöksiä, ei neuvonantajaa, ei tieteellistä elintä, ei salaista arviota. Ei yhtäkään. Tämä ei ollut sanamuoto. Ei ollut mitään, mihin viitata.

Eikä ole pienintäkään viitteitä siitä, että Trump olisi halunnut mitään todellista arviointia. Vähäisinkään kyvyin toimiva johtaja, joka ei ymmärrä teknologiaa  ,  mutta ymmärsi, että kolme kilpailevaa toimitusjohtajaa oli juuri todistanut omia taseitaan vastaan, olisi pyytänyt joltakulta lisätietoja. Sen sijaan Trumpin vastaus tuli muutamassa tunnissa golfkentällä, täysin Kiinan kanssa käydyksi kilpailuksi lavastettuna. Tämä ei ole pelkkää tyhmyyttä, mikä on Trumpin epäonni ja siten meidän kohtalomme. Se on perustavanlaatuista epäpätevyyttä, joka asettaa meidät kaikki vakavaan vaaraan.

Ja sitten on Johnson. Edustajainhuoneen puhemies, joka joutui kohtaamaan katastrofivaroituksia teknologiaa rakentavilta ihmisiltä, ​​ilmoitti, että hänen oma instituutionsa on heitä vähemmän pätevä ja sen pitäisi siksi vetäytyä sivuun. Hänen ehdotuksensa oli, että "meidän on kutsuttava" johtajat "yhteen suureen kokoukseen" ja että kongressin on "vastustettava kongressia hyppäämästä mukaan ja asettamasta jonkinlaista hätätilapäätösten moratoriota". Hänen syynsä oli Kiina: "Jos kongressi vain kiiruhtaa paikalle ja pitää jonkinlaisen hätäistunnon yrittääkseen säännellä tekoälyä, häviämme kilpailun Kiinalle." Hän oli vakuuttunut, hän selitti, edellisenä iltana X:ssä julkaistusta kirjoituksesta.

Yksi syy siihen, miksi kongressi ei voi tarkistaa mitään näistä, on se, että se on tuhonnut oman kykynsä tehdä niin. Vuonna 1995 se lakkautti Teknologian arviointitoimiston (Office of Technology Assessment), joka oli olemassa juuri sitä varten, että lainsäätäjillä olisi riippumaton tekninen harkintakyky. Se ei koskaan korvannut sitä. Kun Johnson sanoo, että hänen poliittisena instrumenttinaan on kokous, hän kuvailee kongressin säälittävää tietämättömyyttä.

Trumpin hallinnon epäpätevyys teknisissä kysymyksissä on henkeäsalpaava. Yhdysvaltain hallituksen 25:stä ministeritason virasta kenelläkään ei ole tohtorin tutkintoa millään alalla, ja tasan yhdellä on STEM-tutkinto – kandidaatin tasolla. Kahdellatoista on oikeustieteen tutkinto. Sekä Kiinassa että Venäjällä ministerit ovat täynnä tohtoreita (kaikilla aloilla) ja luonnontieteiden ja tekniikan alan virkamiehiä (yli 10 tohtoria ja 10 STEM-tutkinnon suorittanutta kummassakin ministeristössä).

Trumpin hallinnon tietämättömyys ei siis rajoitu tekoälyyn. Tietämättömyys on hallinnon hallitseva ehto. Tämän seurauksena hallituksella on täydellinen kyvyttömyys suorittaa rehellistä tutkimusta Covidin alkuperästä, huolimatta kasvavasta todistusaineistosta siitä, että Yhdysvaltain hallitus rahoitti viruksen laboratoriokehitystä.  Hallitus oli niin täysin epäpätevä neuvottelemaan Iranin kanssa ydinvoimakysymyksistä, että se lähetti kehitetyn kiinteistön ja Trumpin vävyn ydinvoima-asiantuntijoiden sijaan, että se veti maamme täysin hyödyttömään ja tuhoisaan sotaan. Hallinnon energiapolitiikan ideana on hyökätä muihin maihin ja varastaa heidän öljynsä .

Tavallinen varoitus on sokean sokean johtamasta. Silti se on aivan liian julmaa amerikkalaisille. Amerikkalaiset näkevät täysin hyvin. Meidän tapauksessamme sokea johtaa näkevää. Amerikkalaiset katsovat hallitusta, jolta puuttuu niin täysin tekninen tietämys ja pätevyys, että se vetää meitä yhä lähemmäksi kuilua.

https://www.commondreams.org/opinion/trump-incompetent-ai