Жасанды интеллект күнделікті тіршілігімізге дендеп енген сайын оның кері әсері туралы да жиі айтыла бастады. Беталды қолдана берсе, түбі адамды ойлана білу қабілетінен айырып тынуы мүмкін. Бірақ, қазіргі қоғамның бір бөлшегі болып бекігендіктен оны қазіргі қолданыстан түбегейлі жойып тастау да мүмкін емес. Сондықтан сала мамандары заманның жаңа технологиясын реттеу шараларын күшейтуге шақырады.
Жасанды интеллект бүгінде жаһандық өркениеттің келбетін өзгертетін басты күшке айналып барады. Сондықтан осы технологияның мәні мен даму беталысын пайымдай алатын гуманитарлық сала мамандарын тәрбиелеп шығару керек. Елордада өтіп жатқан digital bridge 2025 халықаралық форумында сөйлеген мемлекет басшысы Қасым-Жомарт Тоқаев ЖИ-дің қауіпті тұстарына ерекше тоқталған еді.
«Артықшылыққа ие топтар алгоритмдерді пайдаланып, әлдебір құндылықтар мен ойлау моделін қоғамға таңуы ықтимал. Оған жол беруге болмайды. Бұл әлемнің мәдени әралуандығына қиянат жасау болып саналады. Технология таңдаулыларға ғана емес, баршаға қызмет етуге тиіс. Әділ шешімі осы», – деген еді мемлекет басшысы.
Әлбетте, жасанды интеллекттің мүмкіндіктері де, тигізер көмегі де орасан. Үлкен деректерді тез өңдеп уақыт үнемдеу, тұтынушымен байланыс орнату, чат-боттар, тіпті, медицинада диагноз қоюға, рентген талдауға, құқық саласында да көмекші ретінде пайдалы. Алайда сала мамандары мәселенің екінші қырын да ескертеді. Оны құрастырған алгоритмдер адамды адастыруы да мүмкін.
«Әсіресе чат GPT, Gemini сынды ашық жүйелерде қолданушы жүктеген деректер серверлерде сақталып қалады. Бұл деректер ЖИ-ді үйретуге қолданылады, бірақ сонымен бірге ақпараттық қауіпсіздік қатерлерін де туғызады. Бұдан бөлек, оған енгізілген деректерді қолданып, қолданушының өзін манипуляциялайды. Мысалы, қойылған сұраққа өзінше қиялға беріліп, қате жауап ұсынуы мүмкін», – дейді IT, ЖИ және киберқауіпсіздік саласының маманы Евгений Недельский.
Мұндай қауіп өскелең ұрпаққа да төніп тұр. Үй тапсырмасын осының көмегімен орындау белең алғаны жиі айтылады. Егер оны ертерек реттемесе, санасы шектелген, шешім қабылдауды білмейтін ұрпақ шығуы мүмкін деген қауіп бар. Сондықтан мектеп бағдарламасына енгізетін болса, оны салалы министрлік лимиттеп отыруы керек деген пікір айтылады.
IT, ЖИ және киберқауіпсіздік саласының маманы Нұрбек Аманбектің сөзінше, әрбір модельді өзінің шектеуіне қарай үйретіп қоюға болады. Егер керек емес тақырыптар бойынша әңгіме қозғалатын болса, оны модель өз бетінше шектеп, тек оқу жөнінде немесе сарапшы ретінде өзінің анализін бере алатындай шектеулер қоя алады.
Әдетте күнделікті тіршілігімізге қаншалықты еніп кеткені де байқалмайды. Компьютердегі қолданыстан бөлек, қарапайым қаладағы көлік кептелісі мен бағдаршам жүйесі де қазір осы жаңа технологияға байланған.
Айта кетейік, 24 қыркүйекте Мәжіліс Жасанды интеллект туралы заң қабылдаған болатын. Сонда олардың жаһандық, коммерциялық және саясиланған деректер негізінде оқытылғаны айтылды. Бірақ оның ішінде ұлттық құндылықтарымыз бен дүниетанымдық бағдарларымыз жоқ. Сондықтан ЖИ-дің отандық нұсқаларын жетілдіруді дереу қолға алу мәселесі туындап тұр.