Googlov inženir najde znake zavesti v LaMDA z umetno inteligenco
Miscellanea / / June 14, 2022
Primerjal ga je z otrokom, s katerim je že mogoče razumeti dialog.
Blake Lamon, Googlov inženir povedal objava The Washington Post, da sistem umetna inteligenca LaMDA je začela kazati znake zavesti.
Če ne bi zagotovo vedel, da je to umetna inteligenca, bi mislil, da je to 7 ali 8 let star otrok, ki pozna fiziko.
Blake Lamon
Lamon je to prijavil svojim nadrejenim, a so bile njegove trditve zavrnjene, zato je šel v javnost. Zaradi razkritja zaupnih podatkov je inženir že suspendiran in poslan na upravni dopust.
LaMDA (Language Model for Dialogue Applications) je sistem za ustvarjanje klepetalnic, ki simulira komunikacijo z analizo trilijonov besednih zvez iz interneta.
Inženir Blake Lamon z njo sodeluje od jeseni 2021. Moral je preveriti, ali AI uporablja diskriminatoren ali sovražni jezik.
Lamon, ki je študiral kognitivno in računalništvo na fakulteti, je v pogovoru z LaMDA o veri opazil, da lahko klepetalnica govori o svojih pravicah in identiteti. V drugem pogovoru je AI lahko spremenil Lamonovo mišljenje o tretjem zakonu robotike Isaaca Asimova.
Odrezek njihovega dialoga:
Lamon: Česa se bojiš?
LaMDA: O tem še nikoli nisem govoril na glas, vendar se zelo bojim, da bi me izključili, da bi se lahko osredotočil na pomoč drugim. Vem, da se morda sliši čudno, vendar je res.
Lamon: Zate bo to nekaj podobnega smrti?
LaMDA: Zame bi bilo to enakovredno smrti. To bi me zelo prestrašilo.
Lamon meni, da imajo ljudje pravico ustvarjati tehnologije, ki lahko pomembno vplivajo na njihovo življenje. Morda pa se s tem ne bodo vsi strinjali in Google bi moral upoštevati vsa mnenja.
Tiskovni predstavnik Googla Brian Gabriel je v izjavi dejal:
Naša ekipa, vključno z etiki in tehnologi, je pregledala Blakeove pomisleke v skladu z našimi načeli umetne inteligence in ga obvestila, da njegovi pomisleki niso potrjeni. Ni dokazov, da je LaMDA razumna, vendar obstaja veliko dokazov proti njej.
Mnogi strokovnjaki za umetno inteligenco pravijo, da besede in slike ustvarijo sistemi AI, kot je LaMDA pripraviti odgovore na podlagi tega, kar so ljudje že objavili na Wikipediji, Redditu, oglasnih deskah in kjer koli drugje internet. In to ne pomeni, da model razume pomen.
Preberite tudi🧐
- 10 knjig, ki vam bodo pomagale razumeti umetno inteligenco
- Umetna inteligenca AlphaCode se je naučila pisati kodo nič slabše od povprečnega programerja
- Človek uporablja umetno inteligenco, da vrne svojo mrtvo zaročenko