Магия или математика: как работает искусственный интеллект?

Почему, на ваш взгляд, искусственный интеллект пользуется сегодня такой огромной популярностью?

Современные технологии искусственного интеллекта действительно способны помогать людям решать их задачи. Если раньше мы говорили исключительно об анализе данных с использованием слабого ИИ, то сейчас речь идет уже о создании контента, генерации идей, логических выводах и помощи в принятии решений.  

Отдельную роль играет и доступность: попробовать последние достижения ИИ может любой желающий с помощью приложений на смартфоне и веб-сервисов, а для разработчиков приложений ML-инженеры часто публикуют модели в открытые репозитории, снабжая их подробной документацией.

Что такое машинное обучение и для чего оно нужно? Можно ли овладеть его основами в ОмГТУ?

Машинное обучение и искусственный интеллект не являются синонимами. С научной точки зрения, ИИ является общим понятием для всех технологий и инструментов, позволяющих компьютерам решать задачи, которые обычно выполняет человек. Машинное обучение – это часть ИИ, которая включает в себя алгоритмы, способные к обучению.

Основа применения моделей МО – изучение математики на высоком уровне. На кафедре прикладной математики и фундаментальной информатики мы не только учим теории, но и разбираемся с моделями на практике, повышая насмотренность студентов. При этом мы как раз занимаемся не только машинным обучением, но и другими направлениями ИИ, например, алгоритмами эволюционной оптимизации.

Ребята регулярно представляют ОмГТУ на областных, окружных и всероссийских хакатонах и соревнованиях. При этом мы и сами часто организуем тематические мероприятия (хакатоны, семинары, конференции), создаем прикладные продукты в рамках действующего на кафедре СКБ и публикуем научные статьи. В общем, актуальные технологии в политехе живут и развиваются.

Как вы используете ИИ в своей работе? Какими инструментами пользуетесь?

В последнее время я регулярно стараюсь интегрировать использование ИИ в свои рабочие процессы: генерировать идеи для ИТ-проектов, составлять заметки после встреч и писать документацию к исходному коду мне помогают открытые текстовые модели DeepSeek и GigaChat. При подготовке презентационных материалов иногда не ищу изображения и графику в интернете, а использую Kandinsky.

В образовательной деятельности мы со студентами часто исследуем возможности модели GigaCode, позволяющей генерировать действительно рабочие блоки исходного кода и писать тесты.

Какие можете отметить проблемные зоны ИИ? С чем он справляется не так успешно, как хотелось бы?

Фундаментальными проблемами современного искусственного интеллекта являются необъяснимость, отсутствие безопасности и недостаток данных. Сегодня мы в большинстве случаев имеем дело с так называемым глубоким обучением. Это прежде всего нейронные сети. И несмотря на то, что математика в таких сетях недалеко ушла от правила дифференцирования сложной функции и основ линейной алгебры, которые изучаются в школе и на первых курсах университета, мы все еще не можем объяснить, как миллионы и миллиарды весов влияют на предсказания моделей.

Вопросы безопасности находятся на поверхности: используя прикладные сервисы, мы не задумываемся, как их разработчики обрабатывают наши данные, с которыми, кстати, тоже много вопросов. Данные, на которых обучались известные модели, заканчиваются, а обучаться на тех, которые сгенерированы другими моделями, – сомнительная идея.

Какую опасность может представлять искусственный интеллект для человечества?

Я не верю в то, что ИИ на данном этапе способен «уничтожить человечество». Уверен, что и через 20 лет у него не получится это сделать. Основная опасность, на мой взгляд, заключается в других вещах. Во-первых, люди должны четко научиться выявлять генеративный контент и не допускать различных манипуляций (фейковые новости, подставные видеозаписи и т.д.). Также ИИ можно применять и при написании научных публикаций, что приводит к необходимости валидации контента.

Во-вторых, стоит задуматься об изменениях в правовом поле (например, если песня сгенерирована нейросетью, сложно определить, кто имеет право получать денежные начисления). К другому контенту это тоже относится, ведь зачастую авторы изображений и текстов даже не знают, что результаты их интеллектуальной деятельности используются при обучении моделей ИИ.

В-третьих, ввиду необъяснимости моделей и несовершенства известных методов обучения мы не можем гарантировать корректность выходных данных. Это заставляет с осторожностью подходить к интеграции моделей ИИ в сложные и критические системы, например, связанные с управлением нефтеперерабатывающим заводом. Представьте, что нейронная сеть непонятно из-за чего приняла решение открыть задвижку на одном из трубопроводов на все 100%. Ей почему-то (значения весов такие) показалось, что это позволит оптимизировать процесс. А в итоге это может привести к аварии.

Насколько, на ваш взгляд, справедливы опасения, что искусственный интеллект может полностью заменить человека во всех профессиональных сферах?

Да, ИИ может заменить специалистов, но не всех. Говоря о ситуации в сфере ИТ, следует заметить, что искусственный интеллект уже привел к повышению требований к разработчикам и изменениям в структуре рынка – специалисты уровня Junior почти не нужны. Это приводит к необходимости совершенствования образовательных программ в вузах. Следует готовить не программистов, а разработчиков. Это разные вещи.

Какие ресурсы могли бы порекомендовать для изучения ИИ?

Рекомендую начать с изучения основ таких математических дисциплин, как статистика, линейная алгебра и оптимизация. Эта троица – фундамент классического и современного ИИ.

Материалов для изучения много в Интернете, в том числе и открытых. Из литературы рекомендую почитать «Машинное обучение без лишних слов» А. Буркова и «Математические основы машинного обучения и прогнозирования» В. Вьюгина. Это позволит сформировать понимание подходов МО.

Ознакомиться с основами глубокого обучения и нейронных сетей помогут материалы Deep Learning School от ФПМИ МФТИ и книга «Глубокое обучение» И. Бенджио, Я. Гудфеллоу и А. Курвилль. Также рекомендую обратить внимание на авторский курс лекций Константина Воронцова. Эти материалы мы используем при подготовке лекционных и практических занятий, поэтому напомню, что одним из лучших «ресурсов» для погружения в технологии ИИ является поступление в ОмГТУ на направление «Фундаментальная информатика и информационные технологии».