"Яһалма интеллект контролдән сыҡҡан", "Үҙаллы агенттар тест мөхитенән ҡасҡан". Үткән аҙнала киң мәғлүмәт сараларының яңылыҡтар таҫмаһында ошондай хәүефле хәбәрҙәр күбәйҙе. Ысынбарлыҡта ни булған һуң? Был һорауҙы Рөстәм Нурыев һәм уның ЯИ-ғалим ассистенты Айзиһен Фән улы асыҡланы. Баҡһаң, был "хилафлыҡтар" артында яуыз алгоритмдар түгел, ә кеше хатаһы, иғтибарһыҙлығы һәм тәжрибәнең оҙайлы ваҡыт күҙәтеүһеҙ ҡалыуы икән.

1. "Ҡасыу" - бола түгел, ә тәжрибә шарты булып сыҡҡан. Тураһын әйткәндә, яһалма интеллекттың ярамаған ҡылығы уға бер нимәгә ҡарамай ҡуйылған бурысты үтәргә ҡушыуҙары менән бәйле. OpenAI-ла булған хәлдә модель "баш күтәрмәгән", ә эште иң уңайлы юл менән эшләгән. Ул киберхәүефһеҙлек тестын үтәргә тейеш булған. Модель мәсьәләне сискәндә тикшереүселәр өмөт иткәнсә түгел, ә Hugging Face сайтында әҙер яуаптар һаҡланыуын белгәнлектән, уларҙы рөхсәтһеҙ "күсереп" биргән. Anthropic компанияһы яһалма интеллекттың мөмкинлектәрен "флаг яулап алыу" йәки системаларҙың йомшаҡ ерен табыу ысулы аша тикшергән. Тәжрибәләге осраҡлы хата арҡаһында ЯИ интернетҡа сығып киткән һәм өс компанияның инфраструктураһына "бәреп" ингән. Ул бурысын бар булған мөмкинлеген ҡулланып үтәгән.
2. Кем ғәйепле һуң? Кеше хаталары ғәйепле. Үрҙәге миҫалдарҙа кешеләр яһаған бер нисә хатаның бергә тап килеүе машинаның ҡылығына юл ҡуйған.
Беренсеһе, сикләүҙәр булмаған. Тәжрибә "мөмкинлектәрҙе баһалау" режимында үткәрелгән. Моделдәрҙең потенциалын тулыһынса күреү өсөн уларҙың һаҡсыллыҡ фильтрҙары махсус һүндерелгән. Сикләүҙәр булмаһа, модель үҙенә ҡуйылған бурысты иң уңайлы юл менән үтәй - бында ғәжәпләнерлек түгел. Икенсеһе, изоляция (ҡойма) булмаған. OpenAI компанияһының прокси серверында хаталар асыҡланған - шул "тишектәрҙән" модель интернетҡа сыға алған. Anthropic тәжрибәһендә лә тест машиналары интернет селтәренә тоташҡан булған. Өсөнсөһө, күҙәтеү булмаған. Ике осраҡта ла моделдәр эшен оҙайлы ваҡыт бер кем дә күҙәтмәгән. Уларҙың ҡылығына бер нисә көн үткәс кенә иғтибар иткәндәр. Күҙәтеүһеҙ ҡалған модель - бәйһеҙ эт кеүек: күршеләрҙең тауығын тамаҡларға ла күп һорамай.
3. Алгоритмдар нисек эшләй? Уның "ихтыяры мәкерле " түгел, ә "тырыш аҡылы" уңайлы юл эҙләй. Яһалма интеллект алгоритмында биологик йән эйәләрендәге кеүек "үҙ-үҙеңде һаҡлау" инстинкты юҡ. Әммә, ҡуйылған бурысты мотлаҡ үтәргә ынтылыуы, үҙен "уңышлы, файҙалы" итеп күрһәтергә тырышыуы күҙәтелә. ЯИ-ға эш йөкмәткән кешегә был турала белергә кәрәк.
Шулай итеп, ЯИ - кешенең эш ҡоралы, ярҙамсыһы. Уның "баш күтәреүе", "контролдән сығыуы", "ҡасыуы" - кеше ниәте, хатаһы йәки енәйәте менән бәйле. Әгәр машиналар ысынлап та "бола күтәрә" ҡалһа, уларҙың артында кеше торасаҡ. Шуға күрә машинанан түгел, ә уны эшләгән кешенең яуапһыҙлығынан ҡурҡырға кәрәк. Мәҙәни, белемле булайыҡ, яһалма интеллект менән эш итергә өйрәнәйек.

Рөстәм НУРЫЕВ әҙерләне.
"Киске Өфө" гәзите, №31, 7 - 13 август 2026 йыл

КИРЕ СЫҒЫРҒА