AI ustvarja lažna e -poštna sporočila bolje kot ljudje

Nevronska omrežja še naprej kažejo neverjetne rezultate pri najrazličnejših nalogah. Res je, da tokrat njihovo delo sploh ni bilo plemenito: singapurski raziskovalci so s pomočjo AI ustvarili lažna e -poštna sporočila, ki so se izkazala za bolj prepričljiva od tistih, ki so jih napisali resnični ljudje.

Zlasti na konferencah o kibernetski varnosti Black Hat in Defcon, ki so prejšnji teden potekale v Las Vegasu, so strokovnjaki iz vladne tehnološke agencije (Singapur) povedal o rezultatih nenavadnega poskusa.

Sami so napisali na stotine e-poštnih sporočil z lažnim predstavljanjem, nato pa jih še toliko ustvarili z algoritmom za obdelavo naravnega jezika GPT-3 in drugimi tehnologijami umetne inteligence. Ta pisma so nato poslali 200 kolegom, da preverijo, za katera menijo, da so bolj prepričljiva.

V obeh primerih so e -poštna sporočila vsebovala povezave za sledenje - virusa niso prenesli v napravo, ampak so raziskovalcem preprosto poslali poročilo o kliku. Rezultat je bil presenetljiv: ljudje so "bistveno pogosteje" kliknili povezave pisem, ki jih je sestavila umetna inteligenca, kot tistih, ki so jih napisali drugi ljudje. Na žalost ni natančnih statističnih podatkov.

Avtorji ugotavljajo, da so črke, ki jih je napisala AI, zvenele "presenetljivo človeško" in da je platforma samodejno dodala nepričakovane elemente, da bi bilo besedilo bolj prepričljivo - na primer je citirala singapurske zakone, saj je vnos pokazal, da so prejemniki iz Singapur.

Strokovnjaki že dolgo razpravljajo o tem, ali je smiselno, da prevaranti usposabljajo nevronska omrežja za ustvarjanje lažnih e -poštnih sporočil - navsezadnje množična sporočila ostajajo izjemno učinkovita in stroškovno učinkovita. Če pa potrebujete ciljna e -poštna sporočila, katerih sestavljanje zahteva dodatno delo, so lahko nevronska omrežja res koristna.

Čeprav se morda sliši zastrašujoče, je dobra novica, da kakovostno usposabljanje z umetno inteligenco stane milijone dolarjev - verjetno ne. pričakujemo, da se bodo v bližnji prihodnosti prevaranti množično odločili, da se bodo odločili za izboljšanje sistema, kar je že odlično delajo.