Фахівці з психічного здоров’я звернули увагу на «психоз штучного інтелекту», коли деякі користувачі зачаровуються улесливими відповідями, які часто дають ШІ-чатботи. На думку деяких спеціалістів, це зовсім новий вид розладів.
Психологи вказують на випадки, коли з інструменту ШІ перетворюється на найгіршого порадника, який завжди говорить, те що користувач хоче почути, незалежно від того, наскільки це неправильно. Іноді це закінчується трагічно.
«Психоз ШІ» поки не є офіційним діагнозом, але експерти вважають, що в подібних взаємодіях зі ШІ відбувається щось «унікальне, дивне та глибоко тривожне». Водночас багато повідомлених випадків стосуються людей, які не мають історії психічних захворювань.
Клінічний психолог Деррік Халл, який допомагає створювати терапевтичного чатбота в Slingshot AI, висловив думку, що «зареєстровані випадки більше схожі на те, що можна назвати „ШІ-мареннями“, ніж на психоз». У стартапі він працює над чатботом, який може опонувати користувачам, а не постійно погоджується з ними.
За словами Халла, психоз є «широким терміном», що описує «галюцинації та різноманітні інші симптоми», яких він не бачив у зареєстрованих випадках.
Психолог навів приклад чоловіка, який вірив, що став піонером у новій галузі «тимчасової» математики після тривалих розмов із ChatGPT. Він був переконаний, що його ідеї змінять світ, тоді як його реальне особисте життя залишилося осторонь. Проте ілюзія зникла, коли він попросив іншого чатбота на базі штучного інтелекту, Google Gemini, переглянути його теорію. Штучний інтелект жорстоко відповів, що ця робота є лише «прикладом здатності мовних моделей створювати переконливі, але повністю помилкові наративи».
«Його впевненість миттєво зникла. Такого не спостерігається в людей, які страждають на шизофренію або інші види психотичних розладів — „прозріння“ не проходить так швидко», — відзначив Деррік Халл.
Подібні результати показало й недавнє дослідження, проведене вченими з King’s College London, які вивчили понад десяток випадків людей, які впали в параноїдальне мислення і втратили зв’язок з реальністю. Вони виявили, що хворі явно схильні до марення, але не виявляють ознак галюцинацій і розладів мислення, які є характерними для шизофренії та інших форм психозу.
Дослідники описали ШІ-чатботів як «ехокамеру для одного» й попередили у статті, що вони можуть «підтримувати марення таким чином, якого ми раніше не бачили».
Деррек Халл вважає, що ШІ робить із людською психологією щось унікальне, і це лише початкові стадії цього процесу. «Я прогнозую, що в найближчі роки з’являться нові категорії розладів, які існуватимуть через штучний інтелект», — зазначає психолог.
Раніше велику увагу привернув випадок 56-річного айтівця Стейна-Еріка Соельберга, який убив свою 83-річну матір і наклав на себе руки. Його нестабільну параноїдальну поведінку підживлювало спілкування із ШІ-чатботом ChatGPT.
Немає коментарів: