Риски ИИ в автомобильном сегменте

Внедрение искусственного интеллекта (ИИ) в транспортные средства и вокруг них создает разнообразные и серьезные риски для автомобильной промышленности, особенно при продвижении к комплексному автономному вождению.

Именно искусственный интеллект лежит в основе энтузиазма отрасли в отношении потенциала автономных автомобилей, который позволит сделать вождение значительно более безопасным и приятным. Однако в то же время ИИ стремительно расширяет возможности для кибератак на автомобили. В частности, большие языковые модели (LLM), используемые в генеративном ИИ, и их зависимость от критически важных данных предприятия, использование трудноконтролируемого самообучения и склонность к ошибкам делают их весьма привлекательными целями для киберпреступников.

Действительно, ИИ стал принципиально новым и необычайно сложным вектором угроз для мировой автомобильной промышленности — тем, что потребует особого и постоянного внимания.

Новые возможности, новые вызовы

ИИ займет важное место в следующих поколениях автономного вождения. Функции восприятия, распознавания и управления будут опираться на сквозное моделирование ИИ, что позволит автомобилю плавно и безопасно вести себя и реагировать на сценарии дорожного движения, как это делал бы его оператор-человек. LLM могут постепенно создавать планировщики для выполнения таких команд, как ускорение и замедление, рулевое управление и торможение. Генеративный ИИ будет стремиться эффективно клонировать поведение человека-водителя — он слышит, чувствует и принимает решения на основе сквозных моделей.

Очевидно, что постоянное внедрение ИИ таким образом будет влиять на все аспекты жизненного цикла автомобилей — от проектирования, испытаний, производства и до использования потребителями. В случаях использования, зависящих от такого рода сквозного моделирования, различные риски кибербезопасности могут усилиться и многократно возрасти.

Три основные области взаимосвязанных новых рисков

Производители и их поставщики должны начать изучать и лучше понимать новый ландшафт рисков кибербезопасности, которые принесет в их мир ИИ. Эффективное управление новыми вызовами, постепенно возникающими в результате все более широкого внедрения генеративного ИИ, LLM и т. д., потребует творческого мышления и планирования по крайней мере в трех основных областях рисков.

Стратегическая область

Автомобильную промышленность ждут сейсмические изменения в управлении. Нормативно-правовой ландшафт ИИ в автомобильной промышленности быстро развивается и создает новые значительные проблемы и возможности для соблюдения требований. Ландшафт стандартов для отрасли уже многоуровневый и сложный, включая такие области, как кибербезопасность, автоматические системы идентификации (AIS) и различные мероприятия Национального института стандартов и технологий США. Руководителям OEM-производителей и их поставщикам важно не только понимать применимость различных существующих спецификаций к ИИ в автомобилестроении, но и учитывать новые правила и вопросы, такие как этика ИИ и смягчение предвзятости, от организаций, с которыми они не привыкли иметь дело.

Операционная деятельность

Внедрение ИИ порождает огромное количество операционных рисков. С точки зрения целостности данных, системы ИИ создают повышенный риск отравления данных, взлома и манипулирования ими. Например, в случаях использования взаимодействия с водителем, когда голос водителя используется с помощью генеративного ИИ для управления функциями автомобиля, каковы средства защиты от перехвата голосовых команд?

Необходимо не только защищать конфиденциальные автомобильные данные на всех этапах их сбора, хранения и обмена, но и обеспечивать качество и надежность данных для алгоритмов ИИ. Системы искусственного интеллекта должны быть защищены от известных и неизвестных киберугроз, а конфиденциальность потребителей должна быть защищена в среде, управляемой искусственным интеллектом. Перед OEM-производителями и их поставщиками стоит задача определить надлежащие функции шифрования и анонимизации данных и реализовать их соответствующим образом. Надежные процедуры мониторинга и тестирования ИИ должны помочь управлять рисками, связанными со сторонними поставщиками. А как будет использоваться открытый исходный код в автомобильной промышленности в ближайшие годы? До сих пор отрасль была очень осторожна в применении открытого кода.

Финансовые риски

Стоимость разработки и внедрения ИИ, как правило, высока, и потенциально значительные скрытые расходы на внедрение, начиная с подготовки и заканчивая интеграцией. Расходы, связанные с ответственностью и управлением рисками, будет сложно оценить. Кроме того, существуют вопросы брендинга, которые могут иметь самые серьезные финансовые последствия, создавая совершенно новый центр затрат. Какие долгосрочные издержки может принести автопроизводителю нарушение кибербезопасности ИИ с точки зрения долгосрочной стоимости бренда?

Действовать сегодня, чтобы защитить будущее автомобилей с искусственным интеллектом

Многие OEM-производители и их поставщики уже перегружены простым вопросом о том, как получить прибыль. Теперь ИИ ставит перед ними совершенно новые стратегические, функциональные и финансовые вопросы. Генеративный искусственный интеллект настолько нов для всех нас, что представить его влияние в такой огромной и многоуровневой отрасли, как автомобильная, очень сложно.

Автомобильная промышленность довольно традиционна и не любит рисковать, и это механически заложено в ее ДНК. Кроме того, автомобильные компании, как правило, представляют собой довольно крупные организации с целыми экосистемами взаимосвязанных областей — разработкой, эксплуатацией, облачными вычислениями и так далее. Многие разговоры о генеративном ИИ, LLM и их потенциальных рисках носят довольно широкий и общий характер, но я считаю, что автомобильным компаниям следует задуматься о воздействии — как благоприятном, так и неблагоприятном — в контексте каждого из этих трех доменов.

Один из шагов, который следует рассмотреть, — это создание небольшой команды, которая сможет погрузиться в технологию и начать понимать все области в вашей организации, на которые может повлиять ИИ. Автомобильные компании не должны допускать, чтобы к безопасности генеративного ИИ относились как к чему-то второстепенному, даже на этапе его нынешнего внедрения в эту сферу. Возможно, вы даже захотите создать должность руководителя отдела безопасности ИИ, чтобы правильно начать разработку комплексной, проактивной стратегии.

По материалам Forbes.