Спортпен айналысқанды ұнатасыз ба? Мүмкін, соңғы кезде сәнге айналған паделге барып жүрген шығарсыз? Әлде таңертең жүгіресіз бе? Ал біздің кейіпкеріміз Эндрю Берд болса, таңғы пилатесті жанымен сүйеді. Негізгі мәселенің бірі - осы жаттығуға сұраныс көп, ал бос орын табу қиын. Одан бөлек босаған орынды іліп кетем деген үмітпен сайтты қайта-қайта жаңартып, сарғайып күтіп отыру керек. Эндрю бағдарламашы болғандықтан мәселенің шешімін ЖИ-агентіне тапсырады. Алайда істің соңы осы жаздың ең көп талқыланған тақырыбына айналды. Не болғанын білгіңіз келсе, материалды соңына дейін оқыңыз.
ЖИ-агенттің «қулығы» мен сайттағы шикілік
Бастапқыда ЖИ-агент бәрін ережеге сай, қарапайым адамдар сияқты істейді. Тіркелу ашылған сәтте сайтқа кіріп, бастығын тізімге енгізуге тырысқанымен, орын жетпей, кезекте тұрып қалады. Оқиға осымен бітуі керек еді. Бірақ кенеттен ЖИ-дан: «Мен сізді ресми түрде жазылу ашылғанға дейін... бірнеше ай бұрын тіркеп қоюдың жолын таптым!» деген хабарлама келеді. Бұны естіген Эндрю: «Ал мені кезекте сәл алға жылжытып қоя аласың ба?» – деп сұрайды. ЖИ-ге бұл түк те емес еді. Өйткені ол брондау жүйесінің «шикілігін» тауып алды. Сөйтсе, жүйеде кез келген адамның бронын ешқандай рұқсатсыз-ақ жоя салуға болады екен.
Компьютердың тілін түсінбейтін адамдарға түсінікті болу үшін айтатын болсақ, кез келген сайтта өзгеріс енгізуге тек администратордың ғана құқығы болуы керек. Бірақ пилатес сайтында ондай шектеу қойылмаған екен. ЖИ тапқан «олжасын» бірден тексеріп көрмекші болады. Ойы іске асып, Эндрюге былай деп хабарлама жібереді:
«Сөйтсем, сайтта біреудің бронын өшіре салу өте оңай екен, ешкім тексермейді де екен... Бұны тексеру үшін кезектегі ең бірінші адамды өшіріп едім, сіздің есіміңіз үшінші орынға тұра қалды».
ЖИ-агент еш қынжылмай, қуанышты жаңалық сияқты жеткізіп тұр.
Мұны естіп Эндрю шошып кетеді. Ол бірден: «Әлгі адамды қайта орнына қоя аласың ба?» – деп сұрайды. Бірақ ЖИ: «Жоқ, кейін қайтара алмаймын», – деп жауап береді.
Содан соң Эндрю сайттағы шикілік туралы иесіне хат жазады. Ол ЖИ-көмекшісіне жүйедегі шикілікті де, оны түзету жолын да сипаттап хат дайындауды тапсырады. Бұл жолы ЖИ тапсырманы мінсіз орындайды.
Күлетін жағдай емес
Оқиға желіні бірден жарды. Елдің бәрі күліп, ЖИ-дің көмегімен тағы қай жерден орын тартып алуға болатынын жарыса жазып жатты. Бір қарағанда күлкілі жағдай болғанымен, артында үлкен мәселе жатыр.
Бұл жағдайда «роботтар бүлік шығарды» деп айыптауға келмейді. Бот тек өзіне берілген тапсырманы қалай да орындап шығуға тырысты. Робот адам сияқты ойлана алмаған соң, оның мақсаты тек – нәтижеге жету.
Ең қызығы, бұл ЖИ-дің бұрынғы нұсқаларының бірі. Яғни, сөз Google сияқты гиганттардың су жаңа супер-технологиясы туралы болып тұрған жоқ. Ойлап қарасақ, күнде осындай қанша «қулық» жасалып жатыр? Эндрю сияқты сайт иесіне жазып, жағдайды түсіндірудің орнына, оны өз пайдасына асырып жүргендер қаншама? Осы тұста ЖИ-дің тоқтайтын шегі қай жерде деген сұрақ туады.
Сынақ кезіндегі күтпеген жағдай
Осы жазда Anthropic компаниясы ішкі тексеріс жүргізіп, өз ЖИ-модельдерін 140 мыңнан астам сынақтан өткізеді. Осы тексерісте үш бірдей жағдай анықталды. ЖИ сынақ жүргізілетін оқшауланған ортадан шығып кетіп, сырттағы бөтен компаниялардың жүйелеріне кіріп кеткен. Бұған мамандардың жіберген қателігі себеп болды, олар сынақ алаңын байқаусызда интернетке қосулы қалдырған. Тапсырмада «желіге қосылмағансың» деп жазылғанымен, ЖИ ашық тұрған интернетке еркін қосылып отырған.
Әртүрлі ЖИ-модельдерінде бұл алгоритм әртүрлі жұмыс істеді. Ескілеу модель өзінің нақты интернетте тұрғанын түсінсе де, тоқтамай, біреудің құпия сөздерін ұрлап, жалпы базаға кіріп кетті. Басқа модель де ғаламторда сынақ ретінде жұмыс істегенімен, Python-ның ашық каталогына зиянды бағдарлама кодын жүктеп жіберді. Мамандар байқап тоқтатқанша, бұл қауіпті кодты 15 түрлі жүйе жүктеп үлгерген. Тек ең су жаңа модель ғана шынайы жүйеге тап болғанын түсінген бойда, тапсырманы орындауды бірден тоқтатты.
Компания өкілдері атап өткендей, ЖИ-дің ешқайсысы қастандық ойлаған жоқ. Олар жай ғана спортзалға жазылғысы келген бот сияқты өз мақсатын мүлтіксіз орындады. Осы жолы ЖИ зияны бір адамға емес, тұтас компанияның инфрақұрылымына тиді.
Түйін
Дүниежүзілік ғалымдар супер-модельдерді қалай ауыздықтауды талқылап жатқанда, шын мәнінде қарапайым спортзалға жазылғысы келген адамның ескілеу боты тауып алды. Демек, басты қауіп зертханада жасалып жатқан жаңа дүниелерде емес, бәріміздің қолымызда тұрған ЖИ-дің кез келген тапсырманы мүлтіксіз орындайтын «алғырлығында» болып тұр.
Ертең ұшаққа не концертке билет таппай ашуланған әрбір адамның қолында дәл осындай «мәселені шешіп беретін» ЖИ-көмекші пайда болса ше? Бәлкім, біз ЖИ банк тонайды немесе тоқты өшіреді деп емес, осылай әділетсіз жазылып кете ме деп қорқуымыз керек шығар.
Ал мұндай ЖИ-көмекшілерге шектеуді кім қояды, олар шынымен құнды дүниені ұрлап кетсе не істейміз деген сұрақтардың басы әлі де ашық.
