Kako ugotoviti, da je besedilo napisala nevronska mreža
Miscellanea / / August 21, 2023
Umetna inteligenca je dober pomočnik na mnogih področjih. Vendar mu ne smete brezpogojno zaupati.
Avtor: podatke Bloomberg, približno 30 % strokovnjakov uporablja nevronske mreže za ustvarjanje besedila. V Rusiji 67% vprašanih želite prijaviti v delo umetne inteligence, da bi manj delali in ne izgubljali dohodka. Samo takšna statistika ne ugaja vsem strankam. Nekateri ne zaupajo nevronskim mrežam, zato imajo raje, da besedil ne pišejo roboti, ampak ljudje.
Razumemo, zakaj so stranke previdne do tehnologij in kakšna sredstva za razkrivanje nevrotekstov obstajajo danes.
Zakaj je treba besedila iz nevronskih mrež obravnavati previdno
Tukaj so glavni razlogi, zakaj so kupci previdni do takšnih člankov.
Tveganje kršitve avtorskih pravic
Danes še ni uradnega stališča glede vprašanja, kdo pripadajo avtorske pravice za besedila, ustvarjena s pomočjo AI. Avtor je po zakonu oseba, ki z ustvarjalnim ali intelektualnim delom ustvari delo. Vendar pa v primeru zivcno omrezje ljudje samo dajejo navodila, sami pa ne pišejo.
Ker zdaj zakon ne priznava nevrotekstov kot predmet avtorskih pravic, so pravila za uporabo vsebine, ustvarjene s tehnologijami, določena v uporabniški pogodbi nevronske mreže.
In če Open AI prenaša pravice do besedila tudi v brezplačni različici, potem Gerwin omejitve njegova uporaba v politične, diskriminatorne namene ali v neugodnem oglaševanju. In v vmesna pot uporabljati vsebino v komercialne namene Lahko samo, če je izdelek ustvarjen po plačani ceni.
Tveganje pridobitve needinstvenih ali netočnih informacij
Nevronska mreža prejme zahtevo, jo posreduje skozi algoritme, analizira razpoložljive informacije o temi in izda odgovor. Ne da bi zanikali, da lahko ista zahteva drugega uporabnika ustvari podobno ali podobno besedilo.
In tu se pojavi nova nevarnost. Raziskovalci z univerze Cornell so prišli do sklep: če se odgovori nevronske mreže na isto vprašanje zelo razlikujejo, potem z veliko verjetnostjo pride do dejstev.
Tveganje, da bodo nevroteksti znižali vir podjetja v rezultatih iskanja
Konec lanskega leta je Googlov strokovnjak za kakovost Duy Nguyen razglašenoda ima podjetje vzpostavljene algoritme za zaznavanje in znižanje ustvarjene vsebine umetna inteligenca. Zato se mnogi bojijo, da bodo iskalniki takšne vsebine iskali in pesimizirali. Se pravi znižati pozicijo v rezultatih iskanja.
Precedensi že obstajajo. Na primer, tržnik Neil Patel je porabil poskusz izdelavo 50 testnih spletnih strani, ki jih je razdelil v dve skupini. Strokovnjak je spletna mesta prvega dela napolnil s članki, ki jih je ustvarila izključno umetna inteligenca. Spletna mesta drugega so gostila članke z umetno inteligenco, ki so jih spremenili ljudje, pa tudi gradiva, ki so jih napisali tekstopisci brez uporabe nevronskih mrež.
Rezultati poskusa so pokazali, da so viri prve skupine izgubili več mest v rezultatih iskanja. In to je vodilo do zmanjšanje promet do 70 %.
Predstavniki Googla so ob tem dodali, da imajo pozitiven odnos do razvoja nevronskih mrež in so že ustvarili svoje Chatbot Bard. Toda za podjetje so kakovostna besedila prioriteta. Sistem, ki rezultate rangira, uporabnikom najprej ponudi materiale, ki ustrezajo standardi E‑E‑A‑T (izkušnje, kompetence, kredibilnost, kredibilnost).
Besedila, ki jim ustrezajo, vzbujajo zaupanje in veljajo za uporabna, saj vsebujejo primere, izkušnje, analitični del in raziskave. In vsebina, ki jo ustvarjajo nevronske mreže, brez dodatnega globokega izpopolnjevanja s strani osebe, pogosto ni taka.
Medtem v državni dumi predlagano uvesti označevanje materialov, ustvarjenih s pomočjo AI. Dokler se to ne zgodi, določite besedilo generira nevronska mreža, boste morali to narediti sami. Ali s pomočjo posebnih storitev.
Kako samostojno ugotoviti, da je besedilo napisala nevronska mreža
Tehnološka univerza MIREA je pred kratkim potekala poskus, ki se ga je udeležilo 20 učiteljev in preko 200 dijakov. Polovica jih je sama napisala znanstvene članke. Ostalih 50 % pa je uporabilo pomoč nevronskih mrež. Učitelji pa so morali takšne materiale AI izračunati.
Da bi to naredili, so bili učitelji pozorni na slogovne in ortografske značilnosti besedila. Na primer za veliko število ponavljajočih se besed in pomenov, dejanskih in logičnih napake, pomanjkanje izvirnih sodb. Na ta način so učitelji lahko identificirali 96 % del, napisanih z uporabo nevronske mreže. 4 % študentov, ki niso bili izpostavljeni, je priznalo, da so porabili veliko ur za urejanje besedila AI.
Ni univerzalnega navodila, ki bi pomagalo izračunati besedilo, ki ga ustvari nevronska mreža. Vendar poskus kaže, da so podobni vzorci lastni takšnim materialom. Razmislimo o njih podrobneje.
Ponavljanja pomenov in besed
Eden od razlogov za nižji položaj spletnega mesta v rezultatih iskanja je ponovna optimizacija ključnih besed. Nevronska mreža se kot odgovor na zahtevo pogosto »odzove v krogu«. Včasih uporablja različne pojavitve, vendar se pomen še vedno ponavlja.
Tako je bila na spodnjem posnetku zaslona umetna inteligenca zadolžena za pisanje prodajne objave o novem, nežnem načinu barvanja las. In v majhnem besedilu je nevronska mreža večkrat ponovila iste teze.
Skoraj vsak stavek ustvarjeno besedilo ponavlja se besedna zveza "nov način barvanja". In tudi ponavljajoče se podvajanje pomenov o varnosti metode in individualnem pristopu, ki bo poudaril edinstvenost vsake stranke.
Tukaj je nekaj citatov iz besedila, ki to ponazarjajo: »preoblikujte svojo podobo in izrazite svojo individualnost«, »upoštevajte svojo individualnost«, »primerno za vas«, »ustvarjajte za vas edinstven in eleganten videz", "naredi svojo pričesko edinstveno", "ohrani zdravje in sijaj tvojih las", "varno za tvoje lase", "neguj svoje lase, jih ohrani zdravje".
Medtem je bilo dovolj, če enkrat omenimo, da so v salonu predstavili nov postopek - sparing metoda obarvanjaki bo ohranila lase pri življenju. In tudi pojasnite, kako metoda deluje, kaj je njena novost in zakaj je varna. In dodajte, da je barvna paleta raznolika, mojstri, ki so bili usposobljeni, pa ne bodo le kakovostno izvedli barvanja, ampak bodo tudi pomagali pri izbiri barve.
Prisotnost v besedilu velikega števila žigov in klišejev, pomanjkanje čutnih izkušenj
Primer barvanja tudi kaže, da nevronska mreža ne more posnemati, kako oseba govori v resničnem življenju. Ljudje zapečatijo, uporabijo sleng in okrajšav, namerno izkrivlja besede. Takšna predstavitev pomaga pritegniti pozornost, vzbuditi čustva, prenesti položaj avtorja, njegovo čutno izkušnjo.
Raziskovanje kažejo: nevronska mreža ne deli občutkov, ne sprejema nikogaršnjega položaja. Zato daje prednost nevtralnosti, klišejem in klišejem. V zgornjem primeru so to "strokovne sposobnosti", "visokokakovostni materiali", "edinstvena priložnost".
Hkrati nevronska mreža ustvarja besedila v različnih slogih. Na primer, lahko ji daste nalogo, da pripravi gradivo na temo »Kaj vpliva na stroške olje». A da pojasnimo, da besedilo ne sme biti napisano suhoparno, ampak z dodatkom metafor in primerjav. Vendar je rezultat še vedno umeten. Navsezadnje AI nima mere, besedila ne »čuti« tako, kot ga človek.
1 / 0
2 / 0
Eden od odstavkov bo pomagal ugotoviti, da dobljenega rezultata ni mogoče primerjati z intonacijo, ki je lastna osebi: »Povpraševanje in ponudba sta kot ples dveh zaljubljencev na naftnem trgu. če povpraševanje po nafti naraste kot divji ocean, in če ponudbe ne dohaja, se cene dvignejo kot šampanjec na novoletni zabavi. A če povpraševanje upade in ponudba naraste, lahko cene padejo kot balon na otroški zabavi.«
Besedilo se zdi umetno in večina obratov v njem ni na mestu. In čeprav se je objava res izkazala za "ne suhoparno", si je težko predstavljati, da bi strokovnjak tako napisal. Poleg tega je dobesedno vsak stavek metafora in primerjava. Vendar morajo biti takšne tehnike natančne in lepo vpete v besedilo. V nasprotnem primeru se bo pomen izgubil za presežkom slik.
Prisotnost nesmiselnih fraz in pomanjkanje logike
Jezikoslovec Noam Chomsky v svoji knjigi Syntactic Structures ugotavlja, da slovnično pravilna konstrukcija fraz v stavku ne zagotavlja prisotnosti logika in pomen. Kot primer je strokovnjak navedel frazo colorless green ideas sleep furiously - "brezbarvne zelene ideje spijo besno."
Algoritmi pomagajo nevronski mreži sestaviti pravilne stavke v smislu slovnice. Vendar pa za AI ne obstaja koncept "pomena". In lahko ima za vsak odstavek svojo logiko, saj je gradivo pridobljeno iz različnih virov.
Nevronsko mrežo so na primer prosili, naj ustvari ocene za gel za tuširanje in trenirko. Besedilo o oblačilih se je izkazalo takole: »S pomočjo obleke se lahko sprostite, potopite v svet športa in greste tudi na sprehod. Ima nadzor temperature, zahvaljujoč kateremu se počutite udobno v vsaki situaciji.
In tukaj je ocena gela za tuširanje: “Čudovit gel, ne pušča, ne obteži kože. Pakirano v vrečki, v škatli, s pokrovom. Ni vam treba čakati na nič dodatnega, da se malo razpade. Lahko se uporablja kot nočni gel za tuširanje.
Nekaj fraz v njih dobro zgrajen, a hkrati delujejo absurdno in spominjajo na ilustracijo Chomskega.
Pomanjkanje teksture in površinski primeri
Umetna inteligenca podaja očitne informacije v besedilih, splošna dejstva, uporablja poenostavljene fraze in primere, ki ne razkrivajo veliko vprašanja. V tem primeru kompleksnost teme ni pomembna. Vprašanje je lahko globoko, na primer razvojne možnosti vključki v Rusiji. Ali bolj preprosto in individualno, kar zadeva izbiro tehnike.
V besedilu o inkluziji je nevronska mreža povedala, kako pomembna in relevantna je ta tema. Dodala je še, da je inkluzija dolgotrajen proces, ki ga spremljajo težave, vendar se dela na ustvarjanju pogojev za ljudi s posebnimi potrebami. In povzeli: če se ne ustavite, bo razvoj gotovo.
Vendar napisano ne odgovarja na vprašanje. Pomembno je, da je besedilo specifično. Na primer, lahko analizirate, kateri od sprejetih zakonov delujejo in kateri ne ter zakaj. Razkriti tuje izkušnje. In pojasnite, katere konkretne korake lahko država, gospodarstvo in vsak človek še naredijo za razvoj inkluzije.
V besedilu o nakup pametnega telefonaki jih generira nevronska mreža, so navedeni tudi očitni izbirni dejavniki. Na primer: odločiti se morate za operacijski sistem (iOS ali Android), blagovno znamko, prebrati ocene in tehnične specifikacije ter upoštevati tudi lastne zmožnosti.
1 / 0
2 / 0
Vendar ljudje to razumejo. Druga stvar je govoriti o čipih operacijskih sistemov, navesti omejitve, ki trenutno obstajajo. Ali pa omenite inovativne rešitve – na primer tehnologijo eSIM, ki vam omogoča, da imate v enem pametnem telefonu do pet številk. Ali delite predrage modele naprav in njihove primerke po najboljši ceni.
Izkrivljanje dejstev, dodajanje izmišljenih informacij
Nevronska mreža verodostojno odgovori na skoraj vsako vprašanje, zagotavlja kroniko, datume, priimke, zgodovino izvora. V tem primeru so informacije izkrivljene ali popolnoma izmišljene. Takšna napaka pri delu AI se imenuje halucinacija.
Tako je nevronska mreža dobila nalogo pripovedovati o slavnih gluhi ljudjeki so veliko prispevali k razvoju družbe. Zato jih je večino izumil AI.
1 / 0
2 / 0
Na primer astronavt Raymond Lou ali boksar Mario Gallegos. In 42. predsednik ZDA še vedno ni bil Matthew Clinton, ampak Bill Clinton. In ni izgubil sluha.
Poleg tega se je AI samozavestno odzval na zahtevo »napišite objavo o kreativi amnezija». Čeprav tega izraza ni.
Na vprašanje, zakaj si bot izmišlja ljudi in govori o neobstoječih izrazih, se le opravičuje za morebitno zmedo.
1 / 0
2 / 0
Ko se lažna dejstva prepletajo z resničnimi podatki, je težje odkriti halucinacije nevronske mreže. Še posebej, ko tekoče branje. Če pa se osredotočite na primere, navedene v besedilu, lahko opazite tiste, ki se zdijo sumljivi, in jih preverite tako, da jih vnesete v iskalno vrstico.
Pomanjkanje ažurnih informacij o trenutnih spremembah, dogodkih
Nevronske mreže se pri komunikaciji z uporabniki samoučijo, zapomnijo si pojasnila osebe, njegovo reakcijo na ustvarjeno vsebino, primere, ki jih oseba deli z botom. Strokovnjaki opozoritida jih je sposobnost AI za samoučenje presenetila. In da ta veščina pomaga izboljšati nevronske mreže.
pri čemer strojno učenje, ki ga izvajajo razvijalci na gigabajtih podatkov – člankih, knjigah, besedilih s spleta – ima jasen začetek in konec. In v bistvu nevronske mreže nimajo dostopa do iskalnikov. Zato informacije, ki so se pojavile po usposabljanju, ki so ga izvedli razvijalci, niso na voljo AI do naslednje stopnje.
Hkrati je interval med strojnim učenjem mesece in včasih leta. Seveda napredek ne miruje: na primer, maja letos je GPT Plus postal na voljo uporabnikom s plačano naročnino ChatGPT z dostopom do interneta. Vendar pa večina nevronskih mrež, zlasti njihove brezplačne različice, še nimajo takšne možnosti.
Torej je osnova brezplačne različice ChatGPT4 omejena na leto 2021, tako da bot ne ve, kdo je zmagal na zadnjem svetovnem prvenstvu leta 2022. In Googlova nevronska mreža - Bard AI - je priznala, da ne more sestaviti besedila o pomembnih dogodkih, ki so se zgodili v svetu to poletje.
1 / 0
2 / 0
Od zadnjega usposabljanja, ki so ga razvijalci izvedli maja 2023, poletje za Bard AI še ni prišlo.
V takih primerih nevronske mreže običajno ne pridejo do dejstev, vendar priznajo, da ne morejo "napovedati prihodnost».
Če besedilo ne vsebuje najnovejših informacij o temi ali je videti ločeno od realnosti, saj se je v zadnjem času veliko spremenilo, potem obstaja možnost, da je gradivo napisala nevronska mreža.
Katere storitve lahko pomagajo
Besedilo, ki ga ustvari umetna inteligenca, je mogoče prepoznati tudi s pomočjo same nevronske mreže. Na primer, lahko bot GPT-4. Pomagajo lahko tudi posebne storitve, ki lahko zaznajo algoritme AI. Oglejmo si nekatere od njih spodaj.
- Text.ru. Spletno mesto je postavljeno kot borza za pisanje in proti plagiatorstvu. Pred kratkim pa se je na portalu pojavil plačan nevro-asistent. Ena od njegovih funkcij je detektor AI. Besedilo, ki ga želite preveriti, je treba naložiti v okno. Po nekaj sekundah bo sistem dal rezultat.
- PR CY. V storitev lahko naložite besedila od 1000 znakov. Hkrati so na portalu pojasnila: nizkokakovostne, neželene možnosti, ki jih je oseba napisala, bo sistem obravnaval kot rezultat dela AI. Kot tudi besedila s svetlo slogovno obarvanostjo - na primer, podobna delom Majakovski.
- GPTZero. Orodje bere kompleksnost, kombinacijo besed, strukturo in dolžino stavkov. Če pa se storitev dobro spopada z besedili v angleščini, potem pri nalaganju gradiva v ruskem jeziku pogosto povzroči napako. Od prednosti - prisotnost brezplačne različice.
Nevronska mreža je lahko odličen pomočnik. Na primer pri iskanju idej. Vendar pa je popolnoma zaupati njeni vsebini nevarno. Z materiali umetne inteligence ravnajte odgovorno: uredite vsiljeno pošto, preverite točnost, logičnost in ustreznost dejstev. In prilagodite slog "človeškemu" jeziku, da ne prestrašite občinstva, ohranite ugled in položaj podjetja v rezultatih iskanja.
Preberite tudi🤖
- 6 razlogov, zakaj ne smete slepo zaupati umetni inteligenci
- Kako dodati bota v Discord
- 6 nevronskih mrež za ustvarjanje logotipov