6 razlogov, zakaj ne smete slepo zaupati umetni inteligenci
Miscellanea / / August 13, 2023
Kljub svojemu imenu AI ni inteligenten in se včasih zmoti v najbolj smešnih stvareh.
1. AI je programiran za ustvarjanje verjetnih, ne resničnih odgovorov
Umetna inteligenca morda česa ne ve. A tega nikoli ne prizna.
AI je sposoben odgovoriti na vsako vprašanje z nezaslišanimi neumnostmi, vendar s popolnim zaupanjem v svoj prav. Če ga ujamejo na laži, se bo strinjal z vami, se izboljšal in nadaljeval z ustvarjanjem besedila, kot da se ni nič zgodilo.
Klepetalni roboti z umetno inteligenco imajo omejene informacije: vedo le tisto, kar je navedeno v besedilih, na katerih so bili usposobljeni. Toda hkrati so programirani, da odgovorijo v vsakem primeru, tudi če ne poznajo pravilne možnosti. Zato ChatGPT in njegovi kolegi redno pametno govorijo neumnosti.
Ne pozabite preveriti informacij, prejetih od chatbota. Nikoli ne veš, kaj je mislil, ko je pisal odgovor.
2. AI se lahko prepira z vami, tudi če imate prav
1 / 0
2 / 0
Situacije, ko umetna inteligenca ne pozna odgovora in si zato izmišlja pravljice, niso tako slabe. Še huje je, ko ga ujameš na laži, pa se ne popravi in vztraja naprej – preprosto zato, ker je bil naučen na napačnih informacijah.
Poleg tega lahko AI namerno izkrivlja informacije, da bi vodil pogovor v smeri, ki se zdi nevronski mreži pravilnejša. To vodi do različnih smešnih rezultatov.
En sam uporabnik opisano situacijo, ko je bota Bing ChatGPT vprašal, kdaj bodo Avatar 2 predvajali v kinu blizu njegovega doma. V odgovor mu je začel zagotavljati, da film še ni bil objavljen. Ko je uporabnik poskušal prepričati AI, je začel vztrajati, češ da je še vedno leto 2022 in 10 mesecev pred premiero.
Bing je namignil, da se sogovornik moti, če misli, da je leto 2023 že nastopilo, in mu svetoval, naj preveri datum na telefonu. Ko je uporabnik rekel, da je to že naredil, je dejal, da so bile začasne nastavitve na njegovem pametnem telefonu podrte virus in na splošno se človek preveč prepira in bi moral nehati biti tako asertiven.
Uporabnik nikoli ni mogel prepričati umetne inteligence, da je bil Avatar 2 že izdan in da je 2023 lociran po letu 2022.
Klepetalni roboti kljub imenu »umetna inteligenca« niso inteligentni in generirajo odgovore s sestavljanjem besedil, ki so jih prej prebrali. Torej je bil Open AI ChatGPT usposobljen za podatke do leta 2021, Bing ChatGPT pa do leta 2022. Tako bodo imeli le tiste informacije, ki so bile relevantne v času njihovega usposabljanja.
3. AI omejuje vašo ustvarjalnost
Številni avtorji vsebin, umetniki in oblikovalci danes aktivno uporabljajo umetno inteligenco. Če pa ga uporabljate ves čas, obstaja nevarnost, da vam "kreativna mišica" atrofira in boste težje ustvarjali lastne ideje.
Ko klepetalni roboti, ki jih poganja AI, ustvarijo odgovor, ga ljudje pogosto preprosto kopirajo in prilepijo, ne da bi se potrudili, da bi ga razumeli. Ta pristop ne spodbuja kreativno razmišljanje.
Vidite, AI lahko samo kopira tisto, kar so ljudje ustvarili pred njim, samo prosto sestavlja in meša tisto, kar je videl. Ne zna ustvariti zares izvirnih del.
Če postanete močno odvisni od umetne inteligence, boste ponavljali obstoječe ideje in koncepte, namesto da bi ustvarili svoje.
4. AI ne more dati povratnih informacij
Poskusite pridobiti ChatGPT, da napiše diplomsko ali seminarsko nalogo. Možno je, da bo dobil kar dobro besedilo, ki ga ne bo sram pokazati ljudem.
Če pa od umetne inteligence zahtevate, da navede vire informacij, ki jih je zagotovil, boste ugotovili, da ne obstajajo. Naslovi študij, na katere se sklicuje ChatGPT, in imena znanstvenikikdo jih je ustvaril, se zlahka izkaže za izmišljenega, povezave do člankov na internetu, ki jih ponujajo, pa ne bodo vodile nikamor.
AI ne zna razložiti, od kod dobi te ali one informacije, ker je programirana za ustvarjanje besedil na podlagi drugih besedil in ne za razumevanje, kaj je tam zapisala. Zato tudi če odgovori pravilno, potem umetna inteligenca ne zna razložiti, od kod mu ta podatek.
5. AI lahko uporabljajo napadalci
Kljub vsem prednostim umetne inteligence pa jo lahko uporabljajo tudi ljudje s slabimi nameni.
Primer takšne zlorabe je ustvarjanje tako imenovanih globokih ponaredkov. Ta tehnologija omogoča ustvarjanje izjemno realističnih video ali zvočnih posnetkov, v katerih umetno ustvarjene slike ljudi, ki govorijo ali delajo stvari, ki jih dejansko niso rekli ali ne naredil. To je mogoče uporabiti za zavajanje žrtev, ustvarjanje lažnih novic ali celo za izsiljevanje in izsiljevanje.
Velik del razvoja umetne inteligence je v javni domeni in vsakomur omogoča dostop do tehnologij, kot sta prepoznavanje slik in obrazov. In besedilne modele, kot je Open AI ChatGPT, je mogoče uporabiti za trolanje, ustrahovanje na družbenih medijih ali širjenje verjetnih, a dejansko lažnih informacij.
Končno lahko napadalci dajo AI napačne podatke za usposabljanje, v prihodnosti pa jih bo sam oddajal in zavajal uporabnike.
6. AI ne more nadomestiti človeške presoje
Prav tako ne smete povsem zaupati umetni inteligenci, ko sprejemate odločitve, ki temeljijo na čustvih ter osebnih občutkih in preferencah. To je posledica dejstva, da umetna inteligenca ne upošteva človeških čustev, konteksta in nematerialnih vidikov, ki so potrebni za razumevanje in razlago številnih konceptov.
Na primer, če od umetne inteligence zahtevate, da izbere med dvema knjige, bo priporočil tistega z višjo oceno, ne bo pa mogel upoštevati vašega osebnega okusa, bralnih preferenc ali namena, za katerega potrebujete to ali ono delo.
In človeški recenzent lahko poda podrobnejši in individualnejši pregled dela ter oceni njegovo literarnost vrednost, relevantnost za interese bralca in drugi subjektivni dejavniki, ki jih umetna inteligenca ne more izmeriti številke.
Preberite tudi🧐
- Kaj danes zares zmore umetna inteligenca?
- Kje in kako se uporablja umetna inteligenca: 6 primerov iz življenja
- 8 mitov o umetni inteligenci, v katere verjamejo celo programerji