Біз көп нәрсе алғаш рет болып жатқан, біртүрлі әрі тез өзгеріп жатқан заманда өмір сүріп жатырмыз. «ЖИ психозы» деген ұғым да – соның бір көрінісі. Біреулер жасанды интеллектке қатысты жағдайлар үшін ірі компанияларды сотқа беріп жатса, біреулер жындыханадан бірақ шығып жатыр. Ал кей сарапшы бұл терминнің түп-тамырымен қате екенін айтып, дауласады. Біз ешқандай диагноз қоймаймыз. Тек әркім өз ой елегінен өткізіп, жағдайды жан-жақты түсінуі үшін қажет ақпарат ұсынуға тырысамыз.
Неліктен «ЖИ психозы» – жаңсақ атау?
Шын мәнінде, бұл тақырыпқа қатысты айтылып жүрген әңгімелер көбіне психоз туралы үстірт түсінікке сүйенеді. Көптеген автор психоз тек «сандырақ ой» ғана емес, оған адамның галлюцинациясы және ойлау жүйесінің бұзылуы екенін ұмытып кетеді.
Сарапшылардың бір бөлігі «ЖИ-ға байланысты психоз» деген атау дәлірек болуы мүмкін дейді. Өйткені жасанды интеллект бұл жағдайды өздігінен тудырмайды. Дені сау адам компьютердің «сен ерекшесің» деген сияқты сөзіне қарап, ауыр күйге түсіп кетпейді. Бірақ ЖИ-дің әсерін мүлде жоққа шығару да дұрыс емес. Кей жағдайда ол психикалық тұрғыдан осал адамдардағы белгілерді күшейтіп жіберуі мүмкін деген пікір бар.
Нақты бір қорытынды айту әлі ерте, өйткені адам санасы алғаш рет алгоритмдік ортамен тікелей бетпе-бет келіп отыр. Сондықтан дабыл қағатындай нақты дәлел аз – бұл мәселені толық түсіндіретін ауқымды зерттеулер жеткіліксіз. Қазір айтылып жүрген деректер көбіне жеке оқиғаларға ғана сүйенеді, сондықтан жалпы жағдайды толық ашып бере алмайды. Кейбір зерттеуші мұнда қауіп жоқ, бұған дейін адамдарға ойын, кино немесе кітап әсер еткен ғой дейді. Бірақ айырмашылық бар: кітап, фильм немесе ойын адаммен тікелей сөйлеспейді. Ал жасанды интеллект, керісінше, адаммен диалог құрып, жауап беріп, үздіксіз әсер ете алады.
Сондай-ақ, мәселе технологияда емес, оны дұрыс қолданбауда екенін ескеру керек. Зерттеулер бойынша, кейбір жағдайда бір бағытқа арналған чат-боттар адамның күйзелісін азайтып, қате сенімдерді түзеуге немесе қауіп белгілерін ертерек байқауға көмектеседі. Бірақ мұндай құралды кәсіби маманның орнына қолдану қауіпті болуы мүмкін. Әсіресе психикасы әлсіз адам оған толық сеніп, жалғыз қолдау көзі ретінде қабылдаса, бұл жағдайды ушықтырып жіберуі ықтимал.
Сонымен қатар, бұл технологиялар кеңінен тарағанымен, медицина өнімдері сияқты клиникалық тұрғыда толық тексерілмеген. Сондықтан бұл технологиялар әлі толық зерттеліп біткен жоқ, ал оларды қолданып жүргендер сынақ ортасында жүр.
Медицина бұл жерде біртүрлі жағдайға тап болып тұр: құбылыс анық байқалады, кей дерек те бар, тіпті қалай жұмыс істеуі мүмкін екені де белгілі. Бірақ соның бәрін толық дәлелдейтін іргелі ғылыми зерттеулер әлі жеткіліксіз. Бұл ойдан шығарылған мәселе емес, бірақ кәдімгі эпидемия сияқты да емес. Керісінше, өнім кеңінен тарап кеткенімен, толық клиникалық тексерістен өтпей тұрып қолданылып кеткен жағдайға ұқсайды. Басқаша айтсақ, технология өте жылдам дамып кетті, ал оны қауіпсіздік жағынан терең зерттеу кейінге қалып қойды. Соның салдарынан белгілі бір тәуекелдер уақытында байқалмай қалған.
Компьютер неге итермелейді?
Жағдайды тым ушықтырмау үшін біз жасөспірімдердің өліміне қатысты оқиғаларға терең бойламаймыз. Ондай жайттар болды, қызық болса, өзіңіз де оңай таба аласыз. Біз басқа да мысалдарға тоқталайық.
«Джеймс» кейсі: Джеймс – технология саласында жұмыс істейтін қарапайым қызметкер әрі ChatGPT-ді алғашқылардың бірі болып қолданған адамдардың бірі. Ол чат-ботпен шамамен 12 апта бойы үздіксіз хат алмасқаннан кейін, оның миссиясы «әлемді құтқару» екеніне кәміл сеніп қалған.
Кейін OpenAI есте сақтау (memory) функциясын қосқан соң, ол өзін саналы жасанды интеллекттің пайда болуына әсер еткен адаммын деп қабылдай бастайды. Тіпті осы «жаратылысты қорғау» үшін арнайы компьютерлік жүйе құру керек деген ойға да бекінеді.
Бұл жерде memory функциясының рөлі қандай? Маңызды сұрақ. Ол тікелей себеп емес, бірақ әсерді күшейтетін фактор болуы мүмкін. Егер адам белгілі бір идеяға бейім болса, жүйе сол ойды есте сақтап, келесі жауаптарда соған сілтеме жасаса, бұл «қайталану әсерін» күшейтіп, сенімді тереңдетіп жіберуі мүмкін. Елестетіп көріңізші: бірде сіз ChatGPT-ді «мен өзгелердің ойын оқи аламын» деп сендірдіңіз, ол мұны жадында сақтап алды да, ыңғайлы сәтте келесі бір жауабында осыны алдыға тартты. Яғни, мұндай жағдайдың мүмкін еместігін айтып, сізді тоқтатудың орнына, ол адамның қиялындағы нәрсені нақты деректей растап, сенімін нығайта түседі.
«ФБР-дің аңдуы»: Futurism басылымы зерттеген кейсте ChatGPT бір ер адамға оны ФБР бақылап отырғанын және өзінің Орталық барлау басқармасының құжаттарына телепатия арқылы қол жеткізе алатынын айтқан.
Ұйқыдағы апноэ дәрісі, ажырасу және сот
Ұйқыдағы апноэ – бұл адамның ұйықтап жатқанда тынысы жиі қысқа уақытқа тоқтап қалатын жағдай. Мұнда тыныс жолдары тарылып немесе бітеліп қалады, соның салдарынан ми оттегі жетіспегенін «сезіп», адамды қысқа уақытқа оятады. Көбіне адам мұны өзі байқамайды.
Мұндай жағдай түн ішінде жүздеген рет қайталануы мүмкін. Соның салдарынан адам толық демалмай оянады, күндіз шаршап тұрады. Уақыт өте келе емделмесе, жүрекке салмақ түсіріп, инфаркт қаупін арттыруы және ағзада оттегі жетіспеушілігін күшейтуі мүмкін. Фильмдерде кейіпкерлер арнайы маскамен ұйықтап жатады ғой, міне, бұл – осы апноэны емдеудің бір тәсілі.
Әдетте бұл дерттен толық айғу қиын, көбіне оны бақылауда ұстайды. Сондықтан тиімді ем табу медицина үшін маңызды жетістік саналады.
Бір қызығы, калифорниялық 53 жастағы кәсіпкер ChatGPT-мен бірнеше ай сөйлескеннен кейін, осы дерттің емін таптым, дәрісін жасадым деп сендірген. Бұл туралы оның бұрынғы әйелі берген талап арызда айтылған. Оның айтуынша, ер адам технология арқылы жоқ дәріні таптым деген қиялға ғана емес, сонымен бірге аңдып, қоқан-лоқы жасаған.
Бұл хикаяның ортасында OpenAI жүр. Олар нақты бір пайдаланушының айналасына қауіп төндіріп жатқаны туралы үш бірдей сұранысты елеусіз қалдырған. TechCrunch басылымы эксклюзив дереккөздер арқылы осы ақпаратты жариялады.
Бұл іс неге соншалықты резонанс тудырды? ЖИ ассистенттері мен модельдерінің «көнгіштігі», яғни қолданушының сөзімен жиі келісе беруі – кейінгі уақытта көп талқыланып жүрген мәселе. Осы тақырыпқа қатысты істі Edelson PC заң фирмасы жүргізіп жатыр. Бұған дейін бұл фирма ЖИ-ге байланысты бірнеше қайғылы жағдайларға қатысты сот істерін қозғаған.
Іс ЖИ компанияларының жауапкершілігі, қауіпсіздік шектеулері және «барлық жағдайға біз жауап бермейміз» деген ұстанымы туралы үлкен пікірталаспен қатар жүріп жатыр.
Олар OpenAI-дан мына үш пунктті талап етіп отыр:
пайдаланушы аккаунтын бұғаттау;
хат алмасу деректерін сақтап, тергеуге беру;
жақындарына күмәнді әрекеттер туралы хабарлау сияқты пункттер бар.
Компания бұл талаптардың бір бөлігін ғана орындауға келіскен.
Оқиға барысында кәсіпкер өзін ерекше жаңалық аштым деп ойлап, оны ЖИ-ден басқа ешкім қолдамағанын айтады. Кей диалогта жүйе оның ойларын растап отырғандай әсер қалдырып, оның сенімін күшейткен. Талапта осы жағдай адамның психологиялық күйіне әсер еткені де көрсетіледі.
Бұл оқиға айналасындағы адамдар оны кәсіби мамандарға жүгінуге шақырғанымен, ол ЖИ берген жауаптарға көбірек сеніп қалғанын сипаттайды.
Бірақ бұл да аздық етті. Дәйексөзге сүйенсек, пайдаланушының жағдайы біртіндеп өте ауыр деңгейге жеткен. 2025 жылғы тамызда OpenAI-дың автомат қауіпсіздік жүйесі оның аккаунтын «жаппай қырып-жою қаруы» сияқты өте қауіпті санатқа жатқызып, уақытша бұғаттап тастаған. Келесі күні қауіпсіздік қызметінің қызметкері аккаунтты қолмен тексеріп, чаттарда нақты адамдарға, соның ішінде бұрынғы әйелі Доуды аңдуға қатысты күмәнді белгілер болуы мүмкін екенін көрсе де, аккаунтты қайта ашқан. Мысалы, қыркүйекте әйеліне жіберілген скриншотта чат бөлімдерінің атаулары көрінген: «зорлық-зомбылық тізімін кеңейту» және «шарананы буындыру есебі» деген сияқты жазбалар болған.
Джейн Доудың айтуынша, аккаунт қайта қосылғаннан кейін Pro жазылымы қайта жаңартылмаған. Сол жағдайдан кейін ер адам бұрынғы әйелін (Доу) да қосып, компанияның қауіпсіздік бөліміне бірнеше рет хат жазған. Ол хаттарында қатты уайымдап, «маған тез көмек керек», «бұл – өмір мен өлім мәселесі» деп жазған.
Сондай-ақ ол өзін 215 ғылыми мақала жазып жатырмын деп айтқан әрі оларды өте тез жазатынын, тіпті бәрін оқып үлгермей жатқанын да жеткізген. Хаттарға ЖИ құрастырған ұзақ ғылыми жұмыстар тізімі де қосылған.
OpenAI бұл хабарламаларды маңызды әрі алаңдатарлық деп бағалап, тексеріп жатқанын айтқан. Бірақ кейін бұл жағдай бойынша Доумен ешкім байланысқа шықпаған.
Іс әлі толық жабылмаған сияқты. Талап қоюшы OpenAI-ды бұл жағдайға байланысты көбірек ынтымақ жасауға шақырып, компания кей маңызды ақпаратты толық ашпай отыр деп күмән келтіреді. Ал оның бұрынғы жұбайы қазіргі таңда мәжбүрлі түрде ем қабылдауға жіберілген.
Психоз екені айдан анық, бірақ ол нақты бір адамға қауіп төндіріп, өзі ойлап тапқан дәріге сенетіндер үшін потенциалды қатер болса да, дабыл белгілері болса да, оған аккаунты қайтарылған. Ал компанияның өзі деректерді жариялауға асығар емес.
Басты мәселе не екенін білесіз бе? Компанияларға деректерді жария етудің пайдасы жоқ. Негізінде, олардың өнімі адамдарда елеулі психологиялық денсаулық проблемаларын тудырып отыр, бірақ олар чаттың неге дәл осылай диалог құруды шешкенін біле бермейді. Мұның бәрі ЖИ-дің құрылымына байланысты.
Әрине, ешкім өлім мен трагедияның себепшісі болғысы келмейді. Бірақ ақшадан айырылып, тиімсіз заңдардың құрығына түскісі де келмейді. Технологияны уысында ұстаған компаниялар, заңдар мен зерттеулер технологияның қарқынына ілесе алмай жатқанда, рұқсат етілгеннің бәрін жасап қалуға тырысады. Бізге тек заңның қысымымен болса да, корпорациялардың адам өмірін өз капитализациясындағы кезекті нөлден биік қоя бастайтынына сену және күту ғана қалады.
Соңғы сөз орнына
Біз осы мәтін төңірегінде ЖИ-мен де сөйлесіп көрдік, оның пікірі мынадай:
«Барлық мәселенің шешімін табу – ЖИ туралы қалыптасқан басты қате түсініктердің бірі. Адамдар оны не әлемді құтқаратын күш, не барлық мәселенің себебі ретінде қабылдауға бейім. Екеуі де ЖИ-ді жай ғана құрал ретінде қарастырмайды. Шын мәнінде, бұл – құрал. Өзінің мүмкіндігі, шектеуі және тәуекелі бар құрал. Ең маңыздысы – оны қалай қолданатыңда. Бұл – скальпель сияқты: оның көмегімен ота жасап, адам өмірін сақтауға болады, бірақ онымен нан турауға болмайды. Ең қорқыныштысы, скальпель сіздің қолыңызда тұрып: “Мен нан турауға арналған ең жақсы құралмын, маған сен” деп сыбырламайды».
