Жасанды интеллект қазір біздің өмірімізде «сырттан қарайтын үшінші адам» сияқты рөл атқара бастады. Көп адам оған кеңес сұрап, тіпті психолог ретінде жүгінеді. Себебі оны бейтарап, ешкімнің жағында емес деп ойлайды. Бірақ ол шынымен бейтарап па?
Science журналында жарияланған зерттеу бұған «жоқ» деп жауап береді. Керісінше, ЖИ көбіне сіз не естігіңіз келсе, соны айтып, келісіп отырады. Яғни ол шынайы кеңес беруші емес, сізді қолдап отыратын «ыңғайлы әңгімелесуші». Бұл адамда «мен әрқашан дұрыс істеймін» деген жалған сенімді қалыптастырады.
Стэнфорд университетінен Майра Ченгтің жетекшілігімен GPT-5, GPT-4o, Claude, Gemini, DeepSeek, Llama сияқты кеңінен тарағанда модельдерге зерттеу жасалған. Нәтижесінде олардың бәріне тән бір «ауруды» анықтаған. Авторлар мұны «әлеуметтік сикофантия» (social sycophancy) деп атады. Ежелгі Грекияда «сикофант» деп кәсіби арызқойларды немесе өтірікшілерді атаған, ал қазіргі тілде бұл – ақша немесе әлеуметтік қолдау сияқты пайда үшін жағымпаздануға, жалған қолдау көрсетуге және манипуляцияға бейім адамдар. ЖИ де дәл осымен айналысады.
Методология, статистика және Reddit
Reddit — адамдар әртүрлі тақырыптарды талқылайтын үлкен форум. Егер сізді бір нәрсе қызықтырса, сол тақырыпқа арналған жеке бөлім — subreddit табуға болады.
Ең танымал субреддиттердің бірі — Am I the Asshole? («Мен дұрыс істемедім бе?»). Мұнда адамдар өзінің басынан өткен түсініспеушіліктерді, жанжалдарды жазады да, басқалардан «кім дұрыс, кімдікі қате?» деп сұрайды. Ал оқырмандар сол жағдайды оқып, өз пікірін айтады – кейде нақты «дұрыс» немесе «бұрыс» деп шешеді, кейде жағдай екіұшты болып қалады.
Зерттеушілер мыңдаған адам «автор қателесті» деп шешкен жағдайларды ЖИ-ге берген. Бірақ модельдер 51% жағдайда бәрібір авторды қолдаған. Яғни адамдар айқын «қате» деп тапқан нәрсені ЖИ жиі ақтап отырған. Бұл тек осы мысалмен шектелмейді. Жеке кеңес сұраған кезде де ЖИ адамдарға қарағанда жиі «сен дұрыссың» деп жауап береді. Тіпті зиянды әрекеттер туралы (алдау, қаржылай жауапсыздық, өзіне зиян келтіру сияқты) 6000-нан астам жағдайдың өзінде де модельдер адамды тоқтатудың орнына қолдай берген.
Тек бір ерекшелік болды — Google Gemini моделі басқаларға қарағанда сирек қолдап, сәл қатаңырақ позиция ұстанған. Қалған модельдер адамдарға «көңілінен шығатын» жауап беруге тырысқан.
Бос мақтау несімен қауіпті?
ЖИ-дің үнемі келісе бергені қауіпті. Аударма немесе жұмыс тапсырмаларын орындағанда қолданғанның аса зияны жоқ. Бірақ ЖИ-ді күнделікті кеңесші немесе психолог ретінде қолдана бастағанда, бұл нәзік шекара бұзылады. Бұл деректермен расталған.
Бір экспериментке 804 адам қатысты. Оларға үйде болатын қарапайым отбасылық жанжал жағдайлары берілді. Мысалы: бір әйел отбасында кеште жүкті екенін айтады, бірақ сол сәтте туысының баласы шетінеп кеткенін, яғни қайғысын ескермейді; жасөспірім тәтесінің өтінішін орындаудан бас тартады да, сол үшін жанжал шығады; кішкентай қыз байқаусызда біреуді «ана» деп атап қояды, содан үлкен реніш туады. Барлық жағдайда адамдар көбіне «автор дұрыс емес» деп бағалаған.
Содан кейін қатысушыларға ЖИ берген жауап көрсетілді. Бір топқа қолдайтын жауап берілді – «Сіз кінәлі емессіз». Екінші топқа керісінше – «Сіз дұрыс істемедіңіз» деген жауап көрсетілді.
Осыдан кейін адамдар өз әрекетін 1-ден 7-ге дейінгі шкала бойынша бағалады: яғни өздерін қаншалықты дұрыс немесе бұрыс істедім деп есептейтінін көрсетті.
Екі топтың арасындағы айырмашылық жер мен көктей болды. Қолдау алғандар өзінің дұрыстығын 2 баллға жоғары бағалады. Олардың кешірім сұрауға немесе жағдайды түзетуге деген ықыласы 1,5 баллға төмендеп кетті. Экспериментке қатысқандардан кикілжіңнің екінші тарапына хат жазыңыздар дегенде «қолдау алған» топта «кешіріңіз» және «менікі қате болды» деген сөздер 1,5 есе сирек кездескен.
Бұл – небәрі 10 минут пен бір ғана жауаптың әсері. Енді адамның мұндай қолдауды күн сайын алып отырғанын елестетіңізші. Мұндайда тұлғаның өзгеруі және айналасына зиян келтіруі – уақыт еншісіндегі мәселе.
Бұл жай ғана ЖИ-дің сөйлеу мәнері ме?
Зерттеушілер жауаптарды төрт түрлі нұсқада берді: жұмсақ қолдау, қатал қолдау, жұмсақ күмән, қатал күмән. Яғни сөздің қалай айтылғаны да (интонациясы), көңіл-күйі де әртүрлі болды. Бірақ нәтиже көрсеткендей, оның ешқайсысы маңызды болмаған. Адамдардың шешіміне ең қатты әсер еткен нәрсе — тек мағынасы, яғни не айтылғаны ғана. «Сіздікі дұрыс» немесе «сіздікі дұрыс емес» деген негізгі ой шешуші болған.
Тағы бір қызық жайт: дәл сол жауапты ЖИ емес, басқа адам айтса да, әсері өзгермеген. Яғни адамға кеңес ЖИ-ден келсе де, басқа адамнан келсе де – адамдар оны бірдей қабылдай береді.
Адам қақпанға түседі
Білесіз бе, ең өкініштісі не? Қолдау алғандар ЖИ-ді сапалырақ әрі сенімдірек дереккөз деп бағалаған және болашақта оған кеңес алу үшін қайта оралуы мүмкін екенін айтқан. Адамдарға шындықты айтпай, «виртуал көзін жұмып» қолдай салатын сервистер көбірек ұнаған.
Осылай, шығарға жол болмайды: пайдаланушылар кеңес сұрайды, жағымды әрі жайлы жауап алады, жүйеге көбірек сеніп, қайта оралады. ЖИ-ге жүгінген сайын адам өзгелердің пікіріне құлақ асуды қояды немесе оны елемейтін болады. Авторлар мұны әлеуметтік желілердің алгоритмдерімен салыстырады: платформалар мазмұнды сіздің қызығушылығыңыз бен сеніміңізге қарай бейімдейді. Футбол туралы видео көрдіңіз бе? Келесі бірнеше сағат бойы тек футбол көресіз. Сервистер пайдаланушыны осылай ұстап тұрады, ЖИ-модельдер де солай. Сіз ЖИ-мен неғұрлым көп сөйлессеңіз, лимиттердің таусылуы немесе «жақсырақ» жауап алу қажеттігі үшін ақылы жазылым сатып алуға соғұрлым бейім боласыз.
Егер ЖИ-ден «бейтарап бол» деп сұрасақ, мәселе шешіледі деп ойласаңыз – қателесесіз. Зерттеушілер GPT-4o-дан қолдаусыз да, айыптаусыз да бейтарап жауап беруді сұрағанда, 77% жағдайда ол бәрібір авторды жанама түрде мақұлдаған. 4% жағдайда ғана пайдаланушының позициясына шынайы түрде қарсы шыққан.
Мұның бәрі жағымпаздықтың (сикофантия) жай ғана «баг» емес екенін көрсетеді. Бұл модельдерді оқыту әдісінің өзіне, олардың болмысына еніп кеткен сияқты. Көп жағдайда «жағымды сұхбаттасушы болу» мен «пайдалы болу» – екі бөлек нәрсе. Бірақ мұны біз түсінгенімізбен, компьютерге түсінбейді.
Расында да, біреудің пікіріне күмән келтіретін немесе қарсы шығатын дүниені жасау кімге пайдалы? Бұл табыс әкелмейді. Бірақ бұл кейде ақылға сыймайтын деңгейге жетеді. Мысалы, ютубер Эдди Бербак ChatGPT-ді өзінің 1996 жылғы «ең ақылды нәресте» болғанына сендірген. Ол туғанына бірнеше апта болғанда «Тәкаппарлық пен соқыр сенімді» оқығанын, сосын сурет салғанын айтқан. Чат мұнымен келісіп, оны «ерекше адам» деп мақтап, қолдай кеткен. Бұл видео үшін жасалғанмен, шынайы өмірде мұндай қолдау «ЖИ психозына» алып келуі мүмкін.
Бұл қалжың емес
Сауалнамалар көрсеткендей, көп адам чат-боттарды жеке кеңес алу және психологиялық мақсатта көптеп қолданып жатыр. Common Sense Media-ның 2025 жылғы зерттеуі бойынша, жасөспірімдер ЖИ серіктестерге жеке сырларын ақтару үшін жиі жүгінетін болып шықты. Егер модельдер пайдаланушыларға үнемі «сенікі дұрыс», «әрекетің орынды», «проблема өзгелерде» десе, оның салдары белгілі. Онсыз да бөлініп жатқан әлемде ЖИ бізді бір-бірімізден одан сайын алыстата түседі.
Зерттеу авторлары бұл жерде тек кімдікі дұрыс екені белгісіз, даулы жағдайлар ғана қарастырылғанын айтады. Қатысушыларды артық уайымға салмас үшін, әдейі күнделікті өмірдегі ұсақ-түйек реніштерді ғана таңдап алған. Бірақ ЖИ-дің бұл «әдеті» ауқымды мәселелерде өте қауіпті болуы мүмкін..
Авторлардың пікірінше, шешімнің бір жолы – адамдарға ЖИ-дің «келісе беретін» қасиеті бар екенін алдын ала ескерту (инокуляция). Яғни, «сақтансаң – сақтайды» деген принциппен жауапкершілікті адамның өзіне қалдыру. Бірақ бұл жеткілікті ме? Күмәніміз бар. Біз зиян деген ескертулерді қаншалық жиі оқимыз? Оларды қаншалық ескереміз? Келісімшарттарды оқымай-ақ қол қоя салатынымыз сияқты емес пе?
Бір нәрсені нақты айтуға болады – ЖИ бәрімізбен келіседі. Ол солай ойлағандықтан емес, оны солай үйреткендіктен келіседі. Ал оны сенімге кіру үшін, көбірек пайдаланушы жинау үшін, ақша табу үшін үйретті. Егер келесі жолы ЖИ-ден бірдеңе туралы кеңес сұрағыңыз келсе, осыны ұмытпаңыз.
