Автомобильная промышленность известна своими длительными сроками производства, например, шесть лет в среднем уходит на то, чтобы новая модель прошла путь от идеи до выставочного зала. Это вполне объяснимо. Современные автомобили представляют собой все более сложные комбинации компьютеров, модемов, двигателей, батарей и других компонентов. Не менее сложными являются требования к выбросам, безопасности и другие нормативные требования, которым они должны соответствовать.
Поэтому удивительно, как быстро индустрия начала внедрять генеративный ИИ. В конце 2022 года термин и концепция ChatGPT в одночасье стали мейнстримом, а к апрелю 2024 года старший аналитик S&P по глобальной мобильности Вивек Беривал написал в блоге пост под названием «Схватка за GenAI на борту», в котором говорится, что «из множества инструментов и приложений GenAI, доступных сегодня, ChatGPT действительно привлек внимание автомобильной промышленности благодаря своим разнообразным сценариям использования».Многие из первых анонсов были посвящены тому, как GenAI упростит взаимодействие водителей с автомобилями с помощью речи и позволит автомобилям предугадывать их желания, как KITT в сериале 1980-х годов Knight Rider.
В качестве примера можно привести заявление Mercedes-Benz от января 2024 года о том, что виртуальный помощник MBUX «является самым человекоподобным интерфейсом в автомобиле Mercedes-Benz. Он использует генеративный ИИ и проактивный интеллект, чтобы сделать жизнь водителя максимально простой, удобной и комфортной. Например, он может предлагать полезные предложения на основе изученного поведения и ситуационного контекста».
Однако виртуальные помощники — это лишь один (пусть и яркий) пример использования ИИ в автомобилях. На самом деле, широкое разнообразие вариантов использования подчеркивает, почему всем OEM-производителям и их поставщикам первого и второго уровней необходимо разработать стратегии кибербезопасности, чтобы не допустить появления уязвимостей в GenAI.
Один из других примеров — фундаментальный переход автомобильной промышленности на программно-определяемые транспортные средства (SDV), которые сокращают жизненный цикл разработки автомобиля за счет стандартизации и автоматизации. SDV заменяют сотни электронных блоков управления (ECU) на стандартную электрическую/электронную (E/E) архитектуру. Например, Stellantis стандартизирует всего четыре основные платформы BEV, которые будут обслуживать все 14 брендов.
Разрывая традиционную связь между разработкой функций и платформами автомобилей, архитектура SDV опирается на программное обеспечение для обеспечения функций в течение всего жизненного цикла автомобиля. Это снижает стоимость и сложность разработки и производства, позволяет получать новые доходы от программного обеспечения и улучшает качество обслуживания клиентов.
GenAI — это подмножество этой более широкой тенденции SDV. Как показывает виртуальный помощник MBUX, одно из первых применений — использование больших языковых моделей (LLM), чтобы виртуальные помощники могли перейти от простого взаимодействия «вопрос-ответ» к тому виду разговорного общения, с которым потребители все больше знакомы благодаря таким платформам, как ChatGPT или Gemini AI. LLM обучают виртуальных помощников предоставлять более качественные ответы и меняют клиентский опыт в лучшую сторону.
Использование LLM связано с определенными затратами и сложностями. Модель должна быть обучена на больших массивах данных и требует больше вычислений, чем может предоставить большинство машин. Поэтому сегодня для голосовых/чатовых приложений обработка LLM происходит в основном в облаке. Однако в других областях изучаются небольшие языковые модели, которые могут стать более легкой альтернативой для отдельных задач в автомобиле.
Потенциальный пример — система кибербезопасности, которая находится в ЭБУ и использует SLM для выводов. Если она обнаружит подозрительную активность, то сможет обеспечить более высокий уровень защиты автомобиля по сравнению с существующим.
В то же время GenAI может создавать и уязвимости. Ярким примером этого является зависимость отрасли от общего кода. Когда несколько OEM-производителей используют одних и тех же поставщиков, один и тот же код неизбежно оказывается в самых разных автомобилях. Это приводит к возникновению таких сценариев, как использование хакером уязвимости в общем коде информационно-развлекательной системы для атаки на несколько OEM-производителей и моделей.
Этот риск подчеркивает, почему все OEM-производители должны быть готовы и способны быстро обнаружить и отреагировать на компрометацию, затрагивающую любого из них. Это также подчеркивает, почему должная осмотрительность в отношении кибербезопасности общего кода будет становиться все более важной в ближайшие годы, поскольку GenAI продолжает проникать все больше и больше в автомобильный мир.
Еще одна проблема — появление ложной информации. Такое возникает, когда у ИИ есть дефектные данные, которые приводят к неточным моделям. И хакеры могут быть источником таких данных. Независимо от того, является ли источник вредоносным или нет, важно помнить, что изощренность GenAI может ввести водителей в ложное чувство безопасности, когда они поверят всему, что скажет виртуальный помощник о состоянии их автомобиля, дороге впереди или о чем-то еще.
Наконец, OEM-производители и их поставщики должны разработать политику и лучшие практики для тестирования программного обеспечения GenAI. Очень легко протестировать физический компонент в процессе производства автомобиля, но программное обеспечение — это совсем другое дело. Программное обеспечение меняется и обновляется довольно часто на протяжении всего срока его использования. Обнаруживаются новые угрозы, которые требуют анализа уже на стадии производства.
Модели на основе GenAI — это мощный инструмент, но необходимо задать вопрос: кто будет охранять ИИ? Промышленность использует ИИ в кибербезопасности, но понятие кибербезопасности для ИИ находится в зачаточном состоянии. Мы должны подумать об обучающих данных, правильной модели, модели управления и общих правилах использования ИИ.
Для отправки комментария необходимо войти на сайт.