Ни для кого не секрет, что ИИ является актуальной темой в повестках дня и стратегиях многих организаций. Однако в связи с выпуском ChatGPT и постоянным развитием машинного обучения поставщики услуг кибербезопасности ramsac советуют компаниям не использовать ИИ вслепую.
Использование LLM (модели большого языка), от вредоносного кода до утечки данных, может нанести ущерб вашей организации при неправильном использовании.
Опасности искусственного интеллекта для бизнеса
Учитывая бурю в СМИ вокруг ChatGPT, на сайте в настоящее время около 100 миллионов пользователей, и его посещают 1 миллиард раз в месяц. Как магистр права, он использует глубокое обучение, чтобы предоставлять ответы на запросы, заявления или просьбы по-человечески. Итак, чем это опасно?
LLM полагаются на доступные данные из открытого Интернета для обоснования запросов и ответов при использовании. Из 100 миллионов пользователей и миллиардов запросов, уже зарегистрированных в ChatGPT, организация, управляющая LLM, может извлечь урок из этого и сохранить данные для будущих ответов. Подумайте об этом, ChatGPT не запрашивает вашего разрешения перед использованием. Поскольку LLM не могут сопоставить конфиденциальную информацию с легкодоступной, секреты компании или интеллектуальная собственность могут быть разглашены и утеряны.
Что следует делать компаниям при использовании LLM?
– Избегайте использования общедоступных LLM для специфичных для бизнеса задач или информации, таких как проверка вариантов резервирования
— Используйте LLM от облачного провайдера или автономные, поскольку это более безопасный вариант
– Изучайте запросы, прежде чем отправлять их в LLM, поскольку эта информация может быть взломана и произошла утечка
— Избегайте размещения конфиденциальной информации на общедоступных LLM, такой как конфиденциальные данные
– Отправляйте важные для бизнеса запросы только на частных или автономных LLM
– Убедитесь, что включен актуальный мониторинг кибербезопасности и активен, чтобы можно было обнаруживать нарушения и угрозы
Без должного учета размещаемых запросов может произойти небрежная утечка информации, которая может привести к серьезным сбоям в работе и ущербу для организации. К сожалению, LLM могут быть взломаны, в результате чего все запросы будут раскрыты вместе с конфиденциальной информацией. Около 39% предприятий Великобритании стали жертвами кибератак в 2022 году, и в 2023 году этот показатель увеличится, только если будут приняты минимальные меры для защиты бизнеса.
Как искусственный интеллект и LLM влияют на кибербезопасность бизнеса?
По мере развития технологий киберпреступники также способны совершенствовать свои методы. Хотя в полной мере масштабы киберпреступности еще предстоит осознать, ясно, что более изощренные фишинговые мошенничества, скорее всего, возникнут из-за использования LLM. В настоящее время это самая распространенная форма киберпреступности, каждый день отправляется около 3,4 миллиарда электронных писем. Кибератаки смогут создавать сценарии и автоматизировать общение без орфографических ошибок, что сделает их менее подозрительными.
Стандартное антивирусное программное обеспечение Bog теперь избыточно, особенно по мере того, как угрозы продолжают адаптироваться, развиваться и обучаться. Вот почему необходим постоянный подход. Мониторинг кибербезопасности, работающий 24/7, жизненно важен для борьбы с растущими угрозами и огромным количеством данных о событиях и тенденциях, происходящих в Интернете. Без должного обдумывания перед использованием искусственного интеллекта и LLM это может подвергнуть ваш бизнес риску.