ЖИ барған сайын дербес шешім қабылдай бастады. Қаржы саласындағы жаңа агенттер адамның тікелей қатысуынсыз өнімдер мен қызметтер топтамасын қалыптастыра алатын деңгейге жетіп отыр, деп хабарлайды DKNews.kz.
Бұл тәуекелдерге Қаржы нарығын реттеу және дамыту агенттігі төрағасының бірінші орынбасары Тимур Әбілқасымов AI & Digital Bridge 2026 форумында назар аударды. Агенттіктің мәліметінше, ЖИ-агенттерді қадағалау олардың алдына қойылған мақсаттан бастап қабылдаған шешімінің нәтижесіне дейінгі бүкіл процесті қамтуы тиіс.
ЖИ-агенттің шешімі ғана емес, бүкіл жұмысы бақыланады
Тимур Әбілқасымов «Қаржы саласындағы AI-агенттер: шешімдерді кім қабылдайды – адам немесе алгоритм» атты панельдік сессияға қатысты.
Оның айтуынша, қаржы секторында ЖИ-агент қабылдаған соңғы шешімді ғана тексеру жеткіліксіз.
Қадағалау жүйесі бірнеше кезеңді қамтуы қажет:
- ЖИ-агентке қойылған мақсат;
- оған берілген нұсқаулар;
- шешім қабылдау процесі;
- қабылданған шешім;
- шешімнің клиент үшін нәтижесі.
Реттеуші үшін негізгі басымдықтардың қатарында алгоритмдердің ашықтығы, адамның бақылауын сақтау және қаржы ұйымдарының клиенттерін жаңа тәуекелдерден қорғау бар.
Бұл жерде клиентті кемсітушіліктен, жасырын комиссиялардан және қосымша қызметтерді мәжбүрлеп ұсынудан қорғауға ерекше мән берілмек.
Дербес ЖИ-агенттер жаңа тәуекел туғызады
Адам шешім қабылдау процесінде қалып, ЖИ үшін сенім деңгейін, лимиттер мен нақты шарттарды белгілеген жағдайда технологияны басқаруға болады.
Алайда агенттердің дербестігі артқан сайын тәуекел сипаты да өзгеріп келеді.
«Біздің міндетіміз – барынша ашықтықты қамтамасыз ету. Егер агент өз функциясын дұрыс орындаса, ал адам шешім қабылдаудың аясында қалып, белгілі бір сенім деңгейін, лимиттер мен шарттарды белгілейтін болса, онда мұндай тәсілді басқаруға болады. Бірақ қазіргі уақытта дербес түрде өздігінен шешім қабылдай алатын және өнімдер мен қызметтер кәрзеңкесін қалыптастыруға қабілетті дербес агенттер пайда болуда. Мұндай агенттер үшін жаңа тәуекелдерден, оның ішінде жасырын jailbreak-тен, яғни белгіленген шектеулерді айналып өтуге бағытталған интерфейстер мен агенттермен коммуникация арқылы жасалатын шабуылдардан қорғау жүйесін қалыптастыру қажет. Әзірге мұндай қорғау тетіктері банк секторында ғана емес, тұтастай әлемде де дамудың бастапқы сатысында тұр», — деп атап өтті Тимур Әбілқасымов.
Яғни қаржы секторындағы киберқауіпсіздік енді дәстүрлі шабуылдармен ғана шектелмейді. ЖИ-агентті өзіне қойылған шектеулерді айналып өтуге мәжбүрлейтін әрекеттерден қорғау да жеке міндетке айналып отыр.
Qainar жүйесіне 100-ден астам қаржы ұйымы қосылған
Қазақстанда жасанды интеллект киберқауіптерге қарсы күресте қазірдің өзінде қолданылып жатыр.
Тимур Әбілқасымов Qainar киберқауіптерден ұжымдық қорғау жүйесінің жұмысын мысалға келтірді. Оған 100-ден астам қаржы ұйымы қосылған.
Qainar аясында ЖИ-агенттер:
- кибероқиғалар туралы ақпаратты талдайды;
- алынған деректерді құрылымдайды;
- қауіптер туралы ақпарат алмасуды жеделдетуге көмектеседі.
Мұндай тәсіл нарық қатысушыларына кибершабуылдарға бірлесіп ден қоюға және бүкіл қаржы жүйесінің киберорнықтылығын арттыруға мүмкіндік береді.
Реттеушінің өзі де ЖИ-агенттерді пайдаланып жатыр
Қаржы нарығын реттеу және дамыту агенттігі жасанды интеллектіні тек реттеумен шектелмейді.
Ведомство банктердің жекелеген жүйелерін бақылау үшін өзінің ЖИ-агенттерін қолдану аясын кеңейтіп жатыр.
Осылайша, қаржы нарығында жасанды интеллект бір мезгілде екі бағытта дамуда: банктер мен қаржы ұйымдары ЖИ-агенттерді қызмет көрсету мен операцияларды автоматтандыру үшін қолданса, реттеуші оларды бақылау және киберқауіптерді анықтау құралдарына енгізіп жатыр.
