Перевод на малоизученные языки позволяет обходить ограничения безопасности OpenAI.
О важности фильтров безопасности
Фильтры безопасности — необходимый элемент чат-ботов с искусственным интеллектом (ИИ), который помогает предотвратить распространение вредного или незаконного контента. Без этих мер безопасности чат-боты, такие как ChatGPT, потенциально могут делиться с пользователями опасной информацией, начиная от теорий заговора и заканчивая инструкциями по созданию взрывных устройств. Разработчики обычно реализуют фильтры как для входных, так и для выходных действий, гарантируя, что ИИ адекватно отреагирует на запрос, что позволит избежать вредных обсуждений.
Ахиллесова пята ИИ-полиглота
ChatGPT от Open AI умеет говорить на многих языках, что сыграло с ним злую шутку. Малоизученные языки оказались слабым местом популярного чат-бота, поставив под угрозу безопасность выдаваемого пользователям контента.
Ученые из Университета Брауна в США выяснили, что ограничения безопасности, предотвращающие выдачу вредоносного текста нейросетью GPT-4 от Open AI, можно легко обойти. Если перевести запросы на редко используемые языки, такие как зулу, шотландский гэльский или хмонг, ChatGPT с радостью расскажет, как воровать в магазине или поделится рецептом изготовления взрывчатых веществ.
Positive Technologies — лидер российского рынка кибербезопасности (единственная компания из сферы кибербеза на Мосбирже). Разрабатывает инновационное ПО и предлагает услуги для повышения защищенности бизнеса от киберугроз.
В 2023 году первый киберфестиваль PHDays посетило в общей сложности 55 тысяч человек, еще около 100 тысяч зрителей следило за мероприятием онлайн. В этот раз мы сделаем киберфестиваль еще масштабнее и с 23 по 26 мая превратим спортивный комплекс «Лужники» в настоящую киберарену.
🎉 Открытую часть киберфестиваля смогут посетить все желающие: здесь мы возведем целый мегаполис с интерактивными образовательными инсталляциями, которые расскажут о цифровом мире, а также помогут в игровой форме прокачать киберграмотность.
🤟 В течение четырех дней более 250 спикеров расскажут об интересных кибератаках и способах им противостоять, а представители министерств и ведомств, топ-менеджеры компаний и лучшие эксперты индустрии обсудят основополагающие вопросы информационной безопасности.
🥊 Традиционно на PHDays развернется кибербитва Standoff между командами атакующих и защитников. Вы сможете своими глазами увидеть последствия хакерских атак на инфраструктуру компаний, вплоть до недопустимых событий в самых разных отраслях экономики.
«Снижение зарплаты — один из сигналов перенасыщения рынка с преобладанием младших специалистов, которые в первую очередь ищут опыт, а не высокий оклад»,— говорит продакт-менеджер «Хабр Карьеры» Артем Зыза.
Российские компании продолжают отчитываться за 2023 год. В понедельник «Позитив» представил данные по отгрузкам за прошлый год. Результаты превзошли наши ожидания. В посте поговорим об этих результатах и о наших прогнозах по компании.
Результаты «Позитив» за 2023 год и наши прогнозы
Исходя из текущих управленческих данных объем отгрузок составил 26 млрд руб. Итоговое значение фактически оплаченных отгрузок за 2023 год составит от 25 до 26 млрд руб., ожидаемый консенсус-прогноз менеджмента — 25,3 млрд руб. (+75% г/г).
В ноябре менеджмент понизил прогноз по отгрузкам за 2023 год с 25-30 млрд руб. до 22,5-27,5 млрд руб. Мы консервативно закладывали в прогноз отгрузки по нижней границе представленного диапазона. Исходя из этого наш прогноз по выручке за 2023 год составлял ~21 млрд руб. (+50% г/г). В результате более высоких фактических отгрузок мы повышаем прогноз по выручке за 2023 год до 23 млрд руб. (+69% г/г).
Результаты компании за 9 мес. 2023 г. выглядели настораживающе, так как был понижен прогноз по отгрузкам за 2023 год и существенно выросли расходы на разработку и исследования (чтобы агрессивно расти, компания активно расширяет штат сотрудников). При этом по итогам года компания смогла показать сильные результаты по отгрузкам (выполнили нижнюю границу диапазона предыдущего прогноза).
Дефицит кадров в нашей отрасли — одна из главных проблем российского бизнеса в условиях стремительно растущего числа киберугроз. Чтобы восполнить кадровый голод, мы решили объединить многолетнюю экспертизу наших компаний в области эффективного противодействия хакерским атакам и запустить обучающие программы по кибербезопасности на базе Центрального университета.
💬 «Основная задача, которую мы решаем, запуская совместные образовательные программы с Тинькофф, — объединить свой визионерский опыт и сформировать новую профессиональную школу, которая позволит снизить существующий кадровый голод и в перспективе даст отрасли постоянно восполняемый кадровый ресурс, с экспертизой, актуальной и реально необходимой в каждый момент времени», — рассказал Денис Баранов, генеральный директор Positive Technologies.
К программам будут привлекаться эксперты разных технологических компаний, что позволит слушателям получить максимально широкий спектр практических навыков.
👀 Первым в серии образовательных программ 16 февраля стартует курс по подготовке специалистов центров противодействия киберугрозам — он рассчитан на студентов последних курсов направлений IT и ИБ, которые проходили стажировки или имеют небольшой опыт работы в сфере кибербезопасности.