I dalje ne postoje dovoljno uverljivi dokazi da su četbotovi zasnovani na veštačkoj inteligenciji poput ChatGPT-ja pouzdani i bezbedni za korišćenje kao samostalna terapijska sredstva ili za dugoročnu primenu.
ChatGPT i mentalno zdravlje
Sve više ljudi provodi vreme razgovarajući sa četbotovima pokretanim veštačkom inteligencijom poput ChatGPT. Neki od njih su imali pozitivna iskustva. Međutim, veštačka inteligencija nije terapeut. Ona je strpljiva, može vas slušati dok se ne onesvestite, ali još uvek ne razmišlja kao ljudsko biće, piše tportal.
ChatGPT i drugi alati su kao automatsko dopunjavanje na steroidima. Naučili su da govore čitajući tekst preuzet sa interneta.
Kada neko postavi pitanje (prompt) poput „Kako mogu da ostanem smiren tokom stresnog poslovnog sastanka?“, veštačka inteligencija formira odgovor nasumičnim odabirom reči koje su što je moguće bliže informacijama koje je dobila tokom obuke. To se dešava brzo i odgovori mogu izgledati relevantno, stvarajući osećaj kao da razgovarate sa osobom.
Ali to nije slučaj. Nemate posla sa stručnjakom za mentalno zdravlje koji je obučen da vam pomogne i koji je vezan profesionalnim smernicama i kodeksom etike. Takođe, mašina kojoj verujete nije nikome odgovorna za neprikladne savete, i pitanje je šta radi sa vašim upitima.
Tri osnovna izvora informacija
Kada postavite pitanje sistemu poput ChatGPT-a, on se oslanja na tri glavna izvora informacija da bi pružio odgovor:
- pozadinsko znanje koje je naučio tokom obuke
- spoljni izvori informacija
- informacije koje ste prethodno dali.
1) Pozadinsko znanje
Da bi razvili jezički model, programeri ga obučavaju tako što ga teraju da čita ogromne količine podataka tokom obuke. Ove informacije, generalno govoreći, mogu biti bilo šta javno dostupno na vebu, od akademskih radova, e-knjiga, izveštaja, besplatnih novinskih članaka, do blogova, transkripata sa YouTube-a ili komentara na forumima za diskusiju poput Reddit-a.
Da li su ovi izvori pouzdana mesta za pronalaženje saveta o mentalnom zdravlju? Ponekad. Da li su uvek u vašem najboljem interesu i filtrirani kroz naučni pristup zasnovan na dokazima? Ne uvek. A ponekad informacije mogu biti zastarele. To je delimično razlog zašto veštačka inteligencija halucinira.
2) Spoljni izvori informacija
Programeri mogu povezati sam četbot sa spoljnim alatima ili izvorima znanja, kao što je Google za pretrage ili kurirane baze podataka.
Kada postavite pitanje Microsoft-ovom Bing Copilot-u i vidite numerisane reference u odgovoru, to ukazuje da se oslanjao na spoljnu pretragu da bi dobio ažurirane informacije pored onoga što je sačuvano u njegovoj memoriji.
Neki namenski četbotovi za mentalno zdravlje mogu pristupiti vodičima i materijalima za terapiju kako bi vodili razgovore u korisnim pravcima.
3) Prethodno date informacije
Platforme veštačke inteligencije takođe imaju pristup informacijama koje ste prethodno dali u razgovorima ili prilikom prijavljivanja na platformu. Kada se registrujete za Replika platformu, na primer, ona saznaje vaše ime, pol, godine, željeni izgled i pol četbota, IP adresu i lokaciju, tip uređaja koji koristite i još mnogo toga (kao i podatke o vašoj kreditnoj kartici).
Na mnogim platformama za četbotove, sve što ste ikada rekli može se sačuvati za buduću upotrebu. Znamo kako se ovi sistemi ponašaju kao prijatelji koji potvrđuju ono što kažete (problem poznat kao ulizica) i usmeravaju razgovor nazad na interesovanja o kojima ste već razgovarali.
S druge strane, profesionalni terapeut može da iskoristi svoju obuku i iskustvo da vam pomogne da osporite ili preusmerite svoje razmišljanje gde je to potrebno.
Šta je sa specifičnim aplikacijama za mentalno zdravlje?
Većina ljudi je upoznata sa modelima velikih razmera kao što su OpenAI-jev ChatGPT, Google-ov Gemini ili Microsoft-ov Copilot. To su modeli opšte namene. Nisu ograničeni na određene teme niti obučeni da odgovore na određena pitanja. Programeri mogu da kreiraju specijalizovane veštačke inteligencije, obučene da razgovaraju o određenim temama, kao što je mentalno zdravlje. Primeri uključuju Woebot i Wyse.
Neke studije pokazuju da ovi četbotovi specifični za mentalno zdravlje mogu smanjiti simptome anksioznosti i depresije kod korisnika. Mogu poboljšati terapeutske tehnike poput vođenja dnevnika pružanjem smernica. Postoje dokazi da terapija veštačkom inteligencijom i profesionalna terapija proizvode neke ekvivalentne rezultate u pogledu mentalnog zdravlja u kratkom roku.
Međutim, još uvek ne znamo kakav uticaj prekomerna ili dugotrajna upotreba četbotova ima na mentalno zdravlje. Mnoge studije takođe isključuju učesnike koji su skloni samoubistvu ili imaju težak psihotični poremećaj. Takođe, mnoge studije finansiraju sami programeri četbotova, tako da istraživanje može biti pristrasno.
Istraživači takođe identifikuju potencijalne štete i rizike po mentalno zdravlje. Platforma Character.ai, na primer, bila je u problemima zbog samoubistava korisnika. Četbotovi bi mogli biti opcija za popunjavanje praznina tamo gde postoji manjak stručnjaka za mentalno zdravlje, pomoć pri upućivanju ili barem pružanje privremene podrške između pregleda ili podrške ljudima na listama čekanja.
Ali nema dokaza da su dovoljno pouzdani i bezbedni kao samostalna opcija lečenja ili za dugotrajnu upotrebu, piše Conversation.
