Беспилотники на контроль что будет, когда на дорогах появится транспорт без водителей?
Безопасность беспилотного транспорта должна обеспечить специальная нормативно-правовая база, регулирующая в целом отрасль разработок искусственного интеллекта. С таким предложением к участникам круглого стола, состоявшегося в раках форума «ТЕХНОПРОМ–2023» обратился проректор московского Политеха Антон Наливайко.
По словам спикера, в университете разрабатывается несколько проектов в области беспилотного транспорта — таких, как предсерийные образцы микроавтобуса для парковых зон смарт-шаттл, беспилотная ЖКХ-платформа, а также малотоннажная платформа автономных систем. Все разработки оснащены интеллектуальными системами управления, использующими нейросети для обработки информации с сенсоров. Однако этих мер недостаточно, чтобы обеспечить безопасность всей системы. В частности, возможны ситуации неправильного машинного обучения, когда в набор данных подмешиваются неверные изображения и тогда машина может неправильно интерпретировать дорожные знаки или даже потерять контроль над полосой движения.
– Выявление такой подмены при обучении достаточно трудно реализовать, отсюда возникают критические уязвимости высокоавтоматизированных транспортных средств, – пояснил Антон Наливайко. – Поэтому необходимо нормативно-правовое регулирование в этой отрасли, а также экспертиза и оценка независимой валидации и верификации как технологий, так и объектов данных, по которым обучаются системы.
Учёного поддержал заместитель руководителя обособленного подразделения в Новосибирске акционерного общества «ИнфоТеКС» Валентин Селифанов, отметивший важность обеспечения информационной безопасности уже на этапе производства беспилотных устройств, включая внедрение и разграничение прав доступа с авторизацией, загрузки и хранения данных.