В соцсетях набирает популярность новый флешмоб: люди публично делятся фотографиями, на которых им 21 год. С одной стороны, флешмоб довольно безобидный, а с другой — в теории несет риски для пользователей. И вот почему.
🤖 Обучение ИИ
Тексты, фотографии, аудиозаписи и видео, опубликованные в социальных сетях, часто применяются для обучения нейросетей. При этом без согласия авторов.
На имеющейся базе фотографий из флешмоба (где человек юн и постарше) нейросеть сможет обучиться находить черты старения, а после — генерировать фото любого человека в любом возрасте.
🎞 Как эту технологию смогут использовать в дальнейшем
Несколькими примерами поделился Максим Митрофанов, специалист отдела перспективных технологий Positive Technologies:
• Злоумышленники смогут создавать дипфейки ваших знакомых, руководителей или родственников на основе фотографий и видео, где человек заметно моложе. Его искусственно состарят, чтобы манипулировать вами или вымогать информацию по видеосвязи.
В 2022 году, руководствуясь концепцией результативной кибербезопасности, Positive Technologies определила три недопустимых для своего бизнеса события: хищение денежных средств, кражу конфиденциальной информации и внедрение вредоносного кода в продукты.
💡Наступление недопустимого события в результате кибератаки делает невозможным достижение операционных и (или) стратегических целей компании или приводит к значительному нарушению ее основной деятельности.
В том же году Positive Technologies стала первой компанией, которая решилась привлечь белых хакеров для поиска способов реализации недопустимых событий и запустила багбаунти-программу Positive Dream Hunting. Мы предложили награду в 10 млн рублей тому, кто сможет украсть деньги со счетов компании. В 2023 году сумма утроилась. До сих исполнить сценарий полностью никому не удалось.
Сегодня же мы запускаем второе недопустимое событие: багхантеры попробуют внедрить условно вредоносный код (закладку) в один из продуктов Positive Technologies. И за реализацию этого сценария мы готовы заплатить 60 млн рублей. Помимо этого, мы увеличиваем выплату за реализацию первого недопустимого события также до 60 млн рублей.
Перевод на малоизученные языки позволяет обходить ограничения безопасности OpenAI.
О важности фильтров безопасности
Фильтры безопасности — необходимый элемент чат-ботов с искусственным интеллектом (ИИ), который помогает предотвратить распространение вредного или незаконного контента. Без этих мер безопасности чат-боты, такие как ChatGPT, потенциально могут делиться с пользователями опасной информацией, начиная от теорий заговора и заканчивая инструкциями по созданию взрывных устройств. Разработчики обычно реализуют фильтры как для входных, так и для выходных действий, гарантируя, что ИИ адекватно отреагирует на запрос, что позволит избежать вредных обсуждений.
Ахиллесова пята ИИ-полиглота
ChatGPT от Open AI умеет говорить на многих языках, что сыграло с ним злую шутку. Малоизученные языки оказались слабым местом популярного чат-бота, поставив под угрозу безопасность выдаваемого пользователям контента.
Ученые из Университета Брауна в США выяснили, что ограничения безопасности, предотвращающие выдачу вредоносного текста нейросетью GPT-4 от Open AI, можно легко обойти. Если перевести запросы на редко используемые языки, такие как зулу, шотландский гэльский или хмонг, ChatGPT с радостью расскажет, как воровать в магазине или поделится рецептом изготовления взрывчатых веществ.
Positive Technologies — лидер российского рынка кибербезопасности (единственная компания из сферы кибербеза на Мосбирже). Разрабатывает инновационное ПО и предлагает услуги для повышения защищенности бизнеса от киберугроз.
В 2023 году первый киберфестиваль PHDays посетило в общей сложности 55 тысяч человек, еще около 100 тысяч зрителей следило за мероприятием онлайн. В этот раз мы сделаем киберфестиваль еще масштабнее и с 23 по 26 мая превратим спортивный комплекс «Лужники» в настоящую киберарену.
🎉 Открытую часть киберфестиваля смогут посетить все желающие: здесь мы возведем целый мегаполис с интерактивными образовательными инсталляциями, которые расскажут о цифровом мире, а также помогут в игровой форме прокачать киберграмотность.
🤟 В течение четырех дней более 250 спикеров расскажут об интересных кибератаках и способах им противостоять, а представители министерств и ведомств, топ-менеджеры компаний и лучшие эксперты индустрии обсудят основополагающие вопросы информационной безопасности.
🥊 Традиционно на PHDays развернется кибербитва Standoff между командами атакующих и защитников. Вы сможете своими глазами увидеть последствия хакерских атак на инфраструктуру компаний, вплоть до недопустимых событий в самых разных отраслях экономики.
«Снижение зарплаты — один из сигналов перенасыщения рынка с преобладанием младших специалистов, которые в первую очередь ищут опыт, а не высокий оклад»,— говорит продакт-менеджер «Хабр Карьеры» Артем Зыза.
Российские компании продолжают отчитываться за 2023 год. В понедельник «Позитив» представил данные по отгрузкам за прошлый год. Результаты превзошли наши ожидания. В посте поговорим об этих результатах и о наших прогнозах по компании.
Результаты «Позитив» за 2023 год и наши прогнозы
Исходя из текущих управленческих данных объем отгрузок составил 26 млрд руб. Итоговое значение фактически оплаченных отгрузок за 2023 год составит от 25 до 26 млрд руб., ожидаемый консенсус-прогноз менеджмента — 25,3 млрд руб. (+75% г/г).
В ноябре менеджмент понизил прогноз по отгрузкам за 2023 год с 25-30 млрд руб. до 22,5-27,5 млрд руб. Мы консервативно закладывали в прогноз отгрузки по нижней границе представленного диапазона. Исходя из этого наш прогноз по выручке за 2023 год составлял ~21 млрд руб. (+50% г/г). В результате более высоких фактических отгрузок мы повышаем прогноз по выручке за 2023 год до 23 млрд руб. (+69% г/г).
Результаты компании за 9 мес. 2023 г. выглядели настораживающе, так как был понижен прогноз по отгрузкам за 2023 год и существенно выросли расходы на разработку и исследования (чтобы агрессивно расти, компания активно расширяет штат сотрудников). При этом по итогам года компания смогла показать сильные результаты по отгрузкам (выполнили нижнюю границу диапазона предыдущего прогноза).