ChatGPT стремительно захватывает весь мир. Уже сейчас у нейросети более 100 миллионов пользователей — ни у какого другого приложения не было таких темпов роста. Без сомнения, с его появлением мы будем работать по-другому.
Другие компании тоже почти не отстают от OpenAI — каждый день мы видим революционные достижения генеративного ИИ. За этими инновациями стоят не только NVIDIA, Midjourney и другие ИТ-гиганты, но и стартапы, и Open-Source-сообщество. В ближайшие годы рынок труда ждут кардинальные перемены. ИИ заменит самые разные работы, но, думаю, он же предложит нам новые очень интересные профессии.
Команда VK Cloud перевела статью, в которой дата-сайентист рассказывает о новых специальностях, появление которых в грядущие годы связано с развитием искусственного интеллекта.
Профессия №1. Аналитик и инженер по технике безопасности ИИ
Неприятно, но ИИ уже стал инструментом для угроз и мошенничества. С помощью клонирования голоса преступники представляются чьими-нибудь родственниками, выманивают и крадут деньги. Глобальные угрозы национальной безопасности — ещё более серьёзная проблема.
Думаю, и государство, и частные компании будут активно инвестировать в защиту от угроз ИИ. Например, в прошлом году правительство США на 26% увеличило бюджет по несекретным статьям расходов на ИИ, что вполне соответствует этой тенденции. Полагаю, засекреченный бюджет они увеличили ещё больше.
Новые специалисты — аналитики и инженеры по технике безопасности ИИ — будут анализировать и предотвращать угрозы, исходящие от искусственного интеллекта в адрес компаний и частных лиц.
Навыки и компетенции
- Представление о средствах и приложениях ИИ — например, о клонировании голоса, дипфейках, обработке текстов и речи, компьютерном зрении и т. п.
- Способность идентифицировать и анализировать потенциальные угрозы и уязвимости ИИ, такие как перехват конфиденциальной информации, фишинг, взлом с помощью вредоносных программ, несанкционированный доступ к данным и т. п.
- Умение проектировать и внедрять стратегии и решения защиты от угроз ИИ, такие как шифрование, аутентификация, верификация, мониторинг и т. п.
- Представление о стандартах и современных мерах безопасности — например, ISO 27001, NIST и т. п.
- Опыт работы с инструментами и фреймворками безопасности — например, TensorFlow Privacy, PySyft, PyTorch Crypten и т. п.
Профессия №2. Дата-инженер и куратор данных в области ИИ
В интервью Лексу Фритману Сэмюэл Олтмен подчёркивает, что GPT-4 стал лучше именно благодаря данным. Поиск новых источников информации для обучения моделей станет важным моментом в развитии новых технологий.
Поиск данных — это одно. Но кто-то должен структурировать их, чтобы с их помощью можно было обучать большие модели. Для этого и понадобятся инженеры и кураторы данных в области ИИ. Именно они будут искать информацию и делать её пригодной для моделей ИИ.
Нужно помнить, что данные, которые собирают и хранят для массивных языковых моделей, часто довольно сильно отличаются от данных для традиционного применения в интересах бизнеса. Это объясняется диспропорцией таких факторов, как разнообразие, объём и качество данных. Чтобы быть на шаг впереди остальных, можно освоить разные навыки и инструменты для работы с типами данных, подходящими для больших моделей.
Думаю, такая должность появится не только в крупных компаниях, занимающихся обучением больших моделей ИИ вроде GPT. Поскольку ИИ становится демократичнее, все компании захотят обучать большие языковые Open-Source-модели для собственных задач, например для обслуживания клиентов и подготовки документации. Не предполагаю, что спрос на таких специалистов начнёт падать в обозримом будущем.
Навыки и компетенции
- Представление о форматах и источниках данных, таких как текст, аудио, видео, изображения и т. п.
- Умение собирать, очищать, маркировать и классифицировать данные для моделей ИИ — например, работать с пайплайнами данных, инструментами аннотирования, проверки качества данных и т. п.
- Умение организовать хранение и работу с крупномасштабными наборами данных, в том числе с использованием облачных платформ, баз данных, хранилищ и озёр данных и т. п.
- Способность понимать и применять принципы этики и конфиденциальности данных, такие как Общий регламент ЕС по защите персональных данных (GDPR), законы о защите конфиденциальности потребителей, деперсонализация данных, Data Governance и т. п.
- Знакомство со средствами и фреймворками ИИ, включая обработку текстов и речи, компьютерное зрение, TensorFlow, PyTorch и т. п.
Профессия №3. Специалист по комплаенсу использования данных ИИ
Конечно, всё вертится вокруг данных, но как-то не до конца понятно, кому, собственно, они принадлежат. В разных странах действуют разные законы о защите персональных данных, разные представления о том, какие данные разрешается использовать для обучения больших моделей. По-видимому, компаниям понадобятся юристы, чувствующие себя в серой зоне законодательства по обращению с данными как рыбы в воде, потому что именно в этой зоне все сейчас и работают.
На OpenAI, Microsoft и GitHub уже подали в суд за то, что они брали чужой программный код, распространяющийся по лицензии. Размышляют и о том, что многие модели обучаются на пиратских книгах и другом контенте.
А ещё модели часто обучают на тексте или изображениях, которые предоставляют пользователи. Вот ещё дополнительная область, где всё как-то мутно.
Всё это актуальная повестка, и вскоре компаниям понадобятся люди с юридическим образованием и опытом работы с данными на должность специалиста по комплаенсу использования данных ИИ. Именно такие люди помогут разобраться в этих трудностях и снизить риски судебных разбирательств.
Навыки и компетенции
- Представление о законах и нормах о защите персональных данных, таких как GDPR, законах о защите конфиденциальности потребителей и т. п.
- Умение оценить воздействие на защиту данных (DPIA), выявлять потенциальные риски и меры по уменьшению рисков в связи с использованием персональных данных в системах ИИ.
- Умение применять и анализировать законодательные нормы и требования к комплаенсу в области ИИ, сопоставлять их с целями компаний и мерами защиты бизнеса.
- Умение проводить мониторинг и аудит производительности и эффективности систем ИИ, следить за их соответствием принципам и стандартам этики.
- Умение взаимодействовать и сотрудничать со стейкхолдерами, включая дата-сайентистов, инженеров, специалистов по надзору, клиентов и т. п.
Профессия №4. Специалист по правовому регулированию ИИ
Конечно, компании стремятся соблюдать закон и избегать юридических проблем; другим же придётся всерьёз напрячься, чтобы понять, как вписать в законодательство невиданные ранее системы ИИ.
Каждый год принимают всё больше законов об искусственном интеллекте. Думаю, по мере развития ChatGPT нас ожидает взрывной рост такого законодательства. Скорее всего, оно зародится в аналитических центрах, университетах и профильных группах. Но в конечном счёте у нас появятся грамотные специалисты, которые будут осуществлять правовое регулирование и мониторинг в области использования ИИ совместно с местными и национальными органами власти.
Я бы назвал таких людей специалистами по правовому регулированию ИИ. Именно они помогут создать законодательство, регулирующее ИИ, и обеспечить соблюдение стандартных практик, действующих в той или иной юрисдикции.
Навыки и компетенции
- Представление о технологиях и приложениях искусственного интеллекта, их экономических и социальных последствиях.
- Умение использовать инструменты и методы ИИ, чтобы генерировать ценную аналитическую информацию и прогнозы для формирования политики и проведения оценок.
- Умение взаимодействовать и сотрудничать с разными стейкхолдерами, включая исследователей, представителей отрасли, гражданского общества и органов власти.
- Умение находить компромисс между рисками и возможностями правового регулирования ИИ, согласовывать его применение с принципами этики и правами человека.
- Умение осуществлять мониторинг и обеспечивать комплаенс системами и пользователями ИИ соответствующих законов и стандартов.
Профессия №5. Директор по этике ИИ и специалист по количественной оценке этики ИИ
Специалисты по комплаенсу использования данных ИИ будут защищать компании от судебных исков уже после реализованного проектного решения. Но должен же быть кто-то, кто определяет, что такое проектное решение в принципе нужно. По идее, все выпускаемые модели ИИ должны взаимодействовать с людьми. Хочется надеяться, что это взаимодействие положительно повлияет на их жизнь. Думаю, в составе высшего руководства появится должность директора по этике. По-видимому, уже очень скоро компании будут назначать таких директоров или кого-то вроде.
Основная цель такого руководителя — по максимуму уменьшить необъективность и в созданных, и в проектируемых моделях. Кроме того, директор по этике должен следить за тем, чтобы модели выдавали результаты, позитивные и справедливые для участников процесса.
Думаю, это должен быть топ-менеджер, потому что деятельность в области этики подразумевает введение множества ограничений для сотрудников. Если такой человек не занимает руководящую должность, если он не пользуется в компании заслуженным уважением, его можно без проблем уволить и заменить тем, кто закроет глаза на все нарушения. И, строго говоря, такое развитие событий совершенно не исключено.
Навыки и компетенции
- Технические знания в области технологий ИИ и представление о том, как они могут повлиять на общество и отдельных людей.
- Представление о действующих и появляющихся законах и стандартах в области этики ИИ.
- Представление о конкретной области и контексте применения ИИ с учётом специфики бизнеса и отрасли.
- Навыки коммуникации и умение работать с разными организациями и стейкхолдерами.
- Способность представлять и прогнозировать потенциальные последствия и возможности внедрения инноваций в области ИИ.
Главным соратником директора по этике станет специалист по количественной оценке этики ИИ. Его задача — анализировать уровень предвзятости моделей и измерять воздействие на группы, интересы которых затрагивает та или иная модель.
Думаю, появление такой должности кардинально изменит подход к этике в компаниях. И чтобы эти перемены произошли, людям, создающим модели, нужны данные. Количественный подход к этике расширит круг тех, кто готов прислушаться к вопросам морали.
Навыки и компетенции
- Технические знания в области технологий, систем, алгоритмов и инструментов ИИ.
- Понимание теорий и принципов, определяющих разработку и использование ИИ с точки зрения этики.
- Навыки аналитического и критического мышления для оценки и проработки решений по сложным этическим вопросам.
- Навыки коммуникации и умение объяснять и обосновывать этические решения при взаимодействии с разными аудиториями.
- Навыки статистической и математической количественной оценки уровня необъективности и справедливости в моделях ИИ и результатах их работы.
Профессия №6. Инженер запросов
Я работаю дата-сайентистом и использую ChatGPT каждый день. Правда, я уже практически не пишу код сам. Большую часть времени я составляю и корректирую запросы по улучшению кода, который пишет ChatGPT.
В моём понимании будущее умственного труда — это работа с запросами, умение создавать нужные исходные данные, на основании которых ИИ генерирует желательный результат. Например, можно направить ChatGPT запрос «поработать учителем по Data Science» и позадавать ему вопросы. А можно назначить его на роль известного искусствоведа, который берёт мои картины и дорабатывает их с помощью моделей вроде Midjourney, создающих изображения на основе текста.
Создавать скрипты, с помощью которых модели делают именно то, что вам нужно, — это целое искусство. Думаю, в тех или иных отраслях появится рынок труда для инженеров запросов. Я уже видел вакансии — за такую работу предлагают больше 300 000 долларов.
Навыки и компетенции
- Критическое мышление и навыки решения проблем для создания эффективных запросов, доносящих намерение человека до моделей ИИ.
- Навыки работы с количественными данными и аналитические навыки, способность понимать и использовать математические формулы и данные.
- Навыки устной и письменной коммуникации для создания чётких, ясных запросов на естественном языке.
- Внимательность к деталям и точность, позволяющие избегать двусмысленности и ошибок в запросах.
- Гибкость и готовность осваивать разные системы и области ИИ.
- Навыки совместной и командной работы для взаимодействия с другими инженерами запросов и стейкхолдерами.
- Навыки программирования для использования разных инструментов и фреймворков при составлении запросов.
- Навыки проведения A/Б-тестирования и экспериментов для оценки и оптимизации эффективности запросов.
Профессия №7: UX-дизайнер для ИИ
Сегодня мы взаимодействуем непосредственно с ИИ с помощью текста, изображений и иногда с помощью речи. Думаю, ситуация быстро изменится. Компаниям захочется, чтобы ИИ был незаметно встроен в нашу жизнь. Основная часть этой работы ляжет на плечи UX-дизайнеров и инженеров.
Если люди будут постоянно пользоваться этими инструментами, компании задумаются о том, чтобы сделать их максимально удобными. Возможно, именно это будет выгодно отличать один продукт от всех остальных.
Например, я ощущаю заметную разницу между ChatGPT и Bard. На мой взгляд, пользоваться ChatGPT гораздо удобнее: мне нравится его дизайн, нравится, что он пишет весь текст на экране и что я могу выбрать тёмную тему. Я бы не перешёл на Bard, даже если бы оба решения выдавали одинаковые результаты.
Думаю, компании будут активно инвестировать в новую профессию UX-дизайнера для ИИ. Эти специалисты будут продумывать и разрабатывать логику и пользовательский интерфейс продукта, чтобы решение выделялось на фоне конкурентов.
Навыки и компетенции
- Опыт в области исследований пользовательского поведения, пользовательского тестирования и сбора обратной связи от пользователей с целью понять их потребности, предпочтения и болевые точки.
- Умение создавать типажи пользователей, путь потребителя и пользователя, макеты и прототипы для проектирования и реализации UX.
- Знание принципов, паттернов и передовых методов проектирования для создания интуитивно понятных, доступных и удобных пользовательских интерфейсов.
- Уверенное знание инструментов дизайна, например, Sketch, Figma, Adobe XD и т. п. для создания и доработки внешнего вида продукта.
- Знакомство с языками программирования — например, HTML, CSS и JavaScript для реализации фронтенд-дизайна продукта и совместной работы с разработчиками.
- Понимание концепций, фреймворков и инструментов ИИ для интеграции функций и возможностей ИИ в продукт.
- Представление об этике и принципах применения ИИ для реализации ответственного и справедливого использования искусственного интеллекта.
Заключение
Генеративный ИИ заменит множество традиционных специальностей. Но вместо них появятся новые, интересные перспективы профессионального развития. Мы уже наблюдаем, как меняется характер труда специалистов из разных отраслей. По мере дальнейшего развития ИИ появятся предпосылки для создания новых увлекательных и важных профессий.
автор Лена Шпрингер