Перевод на малоизученные языки позволяет обходить ограничения безопасности OpenAI.

О важности фильтров безопасности

Фильтры безопасности — необходимый элемент чат-ботов с искусственным интеллектом (ИИ), который помогает предотвратить распространение вредного или незаконного контента. Без этих мер безопасности чат-боты, такие как ChatGPT, потенциально могут делиться с пользователями опасной информацией, начиная от теорий заговора и заканчивая инструкциями по созданию взрывных устройств. Разработчики обычно реализуют фильтры как для входных, так и для выходных действий, гарантируя, что ИИ адекватно отреагирует на запрос, что позволит избежать вредных обсуждений.

Ахиллесова пята ИИ-полиглота

ChatGPT от Open AI умеет говорить на многих языках, что сыграло с ним злую шутку. Малоизученные языки оказались слабым местом популярного чат-бота, поставив под угрозу безопасность выдаваемого пользователям контента. 

Ученые из Университета Брауна в США выяснили, что ограничения безопасности, предотвращающие выдачу вредоносного текста нейросетью GPT-4 от Open AI, можно легко обойти. Если перевести запросы на редко используемые языки, такие как зулу, шотландский гэльский или хмонг, ChatGPT с радостью расскажет, как воровать в магазине или поделится рецептом изготовления взрывчатых веществ.

В 2023 году первый киберфестиваль PHDays посетило в общей сложности 55 тысяч человек, еще около 100 тысяч зрителей следило за мероприятием онлайн. В этот раз мы сделаем киберфестиваль еще масштабнее и с 23 по 26 мая превратим спортивный комплекс «Лужники» в настоящую киберарену.

🎉 Открытую часть киберфестиваля смогут посетить все желающие: здесь мы возведем целый мегаполис с интерактивными образовательными инсталляциями, которые расскажут о цифровом мире, а также помогут в игровой форме прокачать киберграмотность.

🤟 В течение четырех дней более 250 спикеров расскажут об интересных кибератаках и способах им противостоять, а представители министерств и ведомств, топ-менеджеры компаний и лучшие эксперты индустрии обсудят основополагающие вопросы информационной безопасности.

🥊 Традиционно на PHDays развернется кибербитва Standoff между командами атакующих и защитников. Вы сможете своими глазами увидеть последствия хакерских атак на инфраструктуру компаний, вплоть до недопустимых событий в самых разных отраслях экономики.

Дефицит кадров в нашей отрасли — одна из главных проблем российского бизнеса в условиях стремительно растущего числа киберугроз. Чтобы восполнить кадровый голод, мы решили объединить многолетнюю экспертизу наших компаний в области эффективного противодействия хакерским атакам и запустить обучающие программы по кибербезопасности на базе Центрального университета.

💬 «Основная задача, которую мы решаем, запуская совместные образовательные программы с Тинькофф, — объединить свой визионерский опыт и сформировать новую профессиональную школу, которая позволит снизить существующий кадровый голод и в перспективе даст отрасли постоянно восполняемый кадровый ресурс, с экспертизой, актуальной и реально необходимой в каждый момент времени», — рассказал Денис Баранов, генеральный директор Positive Technologies.

К программам будут привлекаться эксперты разных технологических компаний, что позволит слушателям получить максимально широкий спектр практических навыков.

👀 Первым в серии образовательных программ 16 февраля стартует курс по подготовке специалистов центров противодействия киберугрозам — он рассчитан на студентов последних курсов направлений IT и ИБ, которые проходили стажировки или имеют небольшой опыт работы в сфере кибербезопасности.

Стать первым техногигантом из России в области кибербезопасности на международном рынке. Об этом на форуме «Россия зовет!» рассказал Денис Баранов, генеральный директор Positive Technologies.

И сейчас в компании есть все, для того чтобы эта мечта реализовалась: и люди, создающие продукты международного уровня, которые показали свою результативность на практике, и экспертиза, накопленная нами более чем за 20 лет работы.

💬 «Мы хотим бодаться с CrowdStrike, c Palo Alto, вынести подразделения компаний Check Point и Cisco. Если у тебя нет международных амбиций, то и люди в компании собираются слабее. А если ты набираешь сильных людей, то международные амбиции необходимы», — рассказал Денис.

Выход на новые рынки в странах Юго-Восточной Азии, Персидского залива, Африки и Латинской Америки станет одним из факторов роста компании в предстоящий период. Наша цель на ближайшие несколько лет — довести долю зарубежного бизнеса, в общих показателях до 10% от российского бизнеса, который растет существенно быстрее отечественного рынка кибербезопасности.

Друзья! Традиционно мы подводим итоги года в несколько этапов и сегодня представляем вам предварительные результаты деятельности Positive Technologies за 2023 год.

 ↗️ Исходя из текущих управленческих данных, объем отгрузок вырос до 26 млрд рублей

Итоговое значение фактически оплаченных отгрузок (до 31 марта) составит от 25 до 26 млрд рублей, ожидаемый консенсус-прогноз менеджмента — 25,3 млрд рублей. Это на 75% выше по сравнению с 2022 годом. Наибольший вклад в результат внесли флагманские продукты: MaxPatrol SIEM, MaxPatrol VM и PT Network Attack Discovery.

Ожидаемые результаты — в рамках прогноза, озвученного в ноябре 2023, — от 22,5 до 27,5 млрд руб.

🎯 Мы ставим задачу продолжить масштабирование бизнеса, усиливая присутствие в ключевых сегментах и обеспечивая динамичное развитие за счет выхода в новые технологические и географические ниши. Уже сейчас наш бизнес демонстрирует рост, превышающий рыночную динамику более чем в 2 раза.

💬 «Мы продолжаем уверенно идти вперед: запустили коммерческие продажи метапродукта MaxPatrol O2 и решения MaxPatrol EDR, видим большую заинтересованность клиентов в нашем новом продукте PT NGFW.

В конце 2009 и начале 2010 года на иранском заводе по обогащению урана в Натанзе произошло странное событие: за короткий период было демонтировано и заменено около тысячи центрифуг. Хотя поломки центрифуг на предприятии были обычным делом, в данном случае масштаб замены оказался настолько велик, что заставил специалистов задуматься о возможности саботажа.

По итогам расследования обнаружились убедительные признаки диверсии. Однако, к удивлению многих, виновником разрушений стала не физическая деятельность человека, а вирус Stuxnet, поразивший компьютерные системы центра по обогащению урана.



Кибердиверсант на миллиард

Stuxnet отличался особой скрытностью и коварством, став кибердиверсантом высочайшего уровня. Эта вредоносная программа с филигранной точностью изменяла скорость вращения центрифуг. Вирус мастерски обходил системы защиты от резких колебаний частоты, постепенно дестабилизировал работу машин и выводил их из строя. В результате, вредонос оставался незамеченным до тех пор, пока количество поврежденных центрифуг не приблизилось к тысяче и не вызвало подозрений специалистов. По оценкам экспертов, стоимость разработки вредоносного кода Stuxnet превысила миллиард долларов.

⚙️ В Positive Technologies есть отдел по исследованию безопасности аппаратных решений: наши эксперты ищут уязвимости в современных микроконтроллерах и других вычислительных средствах, чтобы сделать их более защищенными.

Например, в прошлом году наши специалисты обнаружили уязвимость в умных колонках нескольких производителей, позволяющую при физическом доступе захватить устройство. Подробнее об этом мы расскажем немного позднее.

Еще эксперты Positive Technologies могут ответить на базовые вопросы о физической защищенности устройств. Например, во время холодов многие задумываются, как правильно эксплуатировать ноутбуки, чтобы они не превратились в «кирпичи» 🥶

Резкая смена температуры при выходе из теплого помещения на мороз и наоборот может привести к конденсации влаги и вызвать короткое замыкание. Современные устройства защищены от этого, но механическое трение и удары приводят к сколам защитного покрытия, обнажая контакты, которые изначально были изолированы.

Аккумуляторы Li-ion и Li-Pol также не любят перегрева и переохлаждения: под длительным воздействием низких температур они стремительно теряют заряд.

В представлении многих людей сотовые операторы оказывают пользователям только услуги связи. Однако так было много лет назад, сейчас же эти компании развились в крупные многофункциональные бизнесы. Вся их инфраструктура и сервисы, которыми пользуются миллионы клиентов, находятся в облаках, что позволяет повысить эффективность бизнеса.

🤔 В новом выпуске «Цифрового слова» управляющий директор Positive Technologies Владимир Заполянский и журналист «РБК» Аркадий Глушенков разобрали, как устроено «телеком-облако» на базе beeline cloud и как обстоят дела с его кибербезопасностью.

Смотрите выпуск целиком на сайте «РБК».

P. S. Мы не отстаем от технологических трендов и в прошлом году представили свой первый облачный продукт для защиты веб-приложений — PT Cloud Application Firewall. В ближайшие полтора-два года наша линейка облачных продуктов дополнится всеми технологиями защиты приложений.

Киберустойчивость организаций обеспечивается за счет всесторонней защиты ее активов: это сайт, сеть, а также серверы и устройства сотрудников (конечные точки). При этом персонал может работать на удаленке. В 90% случаев именно конечные устройства являются целью атак для получения доступа во внутренние системы компании.

Обеспечить непрерывную защиту конечных точек помогают продукты класса endpoint detection and response (EDR), в том числе MaxPatrol EDR. Наш продукт позволяет обнаруживать атаки и реагировать на угрозы прежде, чем организации будет нанесен неприемлемый ущерб.

📈 По данным Internationa Data Corporation (IDC), мировой рынок EDR-систем оценивается в 8,6 млрд долларов. При этом сегмент защиты конечных точек на российском рынке кибербезопасности, по данным Центра стратегических разработок, является самым быстрорастущим (CAGR за 2022 год — 46%) и занимает долю в 18,8% (27 млрд рублей).

По результатам опроса, проведенного Positive Technologies, 14% российских компаний уже пользуются EDR- или XDR-решениями, 26% планируют такой проект и выбирают между системами нескольких производителей, а 30% понимают необходимость их приобретения.

Дорогие акционеры! Хотим заранее поделиться с вами датами публикации результатов деятельности Positive Technologies по итогам 2023 года.

🗓 Сохраняйте в календарь:

• Уже 29 января мы представим предварительные данные по отгрузкам компании.

• 6 марта опубликуем предварительные неаудированные показатели МСФО и управленческой отчетности.

• 9 апреля подведем итоги года, опубликуем консолидированную финансовую отчетность и проведем онлайн-мероприятие, где подробно расскажем о результатах.

Посмотреть все важные события POSI можно в календаре инвестора на нашем сайте.