Нельзя остановить технический прогресс, но важно понимать его последствия, в том числе при использовании достижений в военной сфере. Об этом заявил президент РФ Владимир Путин в ходе пленарной сессии дискуссионного клуба «Валдай».
«История человечества показывает, что остановить технический прогресс невозможно. Но мы должны понимать последствия прогресса. И прежде всего в том, что касается использования его достижений, в том числе в военной сфере, в военном деле. Уже сейчас фиксируются случаи, когда искусственный интеллект сам принимает решения, исходя из собственного понимания целесообразности. Это касается и гражданского, и военного применения», — сказал глава государства.
«Эксперты все чаще с тревогой говорят о том, что распространение искусственного интеллекта может стать очередной попыткой привести всех к общему знаменателю, к обезличиванию, теперь через использование кем-то настроенных алгоритмов», — сказал президент.
Как вы оцениваете перспективу применения ИИ в производстве и других сферах жизнедеятельности? Какие риски, по вашему мнению, возникают при внедрении ИИ в гражданскую сферу? Что, на ваш взгляд, следует предпринять, чтобы сделать использование ИИ безопасным? Какие примеры применения ИИ вы наблюдаете в своем регионе?
Бабурченков Виталий Сергеевич
Лектор Российского общества «Знание», начальник управления по социальной и воспитательной деятельности СмолГУ, директор АНО «Научно-образовательный центр «Порубежье»
Искусственный интеллект уже перестал быть технологией будущего. Он работает в промышленности, медицине, образовании, управлении, помогает обрабатывать большие массивы данных и быстрее находить решения. Владимир Путин на заседании клуба «Валдай» справедливо поставил вопрос о границах самостоятельности таких систем. Чем выше цена ошибки, тем жестче должны быть требования к человеческому контролю и ответственности.
Как преподаватель я вижу последствия распространения ИИ практически каждый день. Студент может за несколько секунд получить текст, структуру исследования, подбор аргументов. Но вместе с этим появляется риск привыкнуть к готовому ответу, перестать проверять источники и разбираться в логике полученного результата. В других гражданских сферах цена такой ошибки может быть значительно выше: персональные данные, медицинские решения, государственные услуги, финансовая информация. Здесь уже недостаточно просто сказать, что технология удобна. Нужно понимать, на каких данных она обучалась, кто проверяет результат и кто отвечает за последствия.
В Смоленской области есть хороший пример разумного применения ИИ. С 2024 года медицинские организации региона подключены к платформе «МосМедИИ». Сервисы помогают анализировать маммограммы, рентгенограммы, флюорограммы и отдельные виды компьютерной томографии. К системе подключены 27 медицинских учреждений, обработаны десятки тысяч снимков. При этом итоговое заключение проверяет и утверждает врач. Вот такую модель я считаю принципиально важной: алгоритм расширяет возможности специалиста, окончательное решение и ответственность сохраняются за человеком.
Безопасное развитие ИИ потребует сразу нескольких вещей — защиты данных, прозрачных правил использования, обязательной проверки результатов в чувствительных сферах и нормальной цифровой грамотности. Людей нужно учить работать с искусственным интеллектом так же серьезно, как когда-то учили работать с поисковыми системами и информацией в интернете. Технический прогресс действительно остановить невозможно. Гораздо важнее сохранить способность человека понимать, проверять и отвечать за решения, которые принимаются с помощью новых технологий.
Отправить ответ