Темная сторона ChatGPT: бесконечный поток полиморфного вредоносного ПО

 
 

Исследователи CyberArk предупреждают, что популярный новый инструмент искусственного интеллекта OpenAI ChatGPT может использоваться для создания полиморфных вредоносных программ.

«Впечатляющие функции [ChatGPT] предлагают быстрые и интуитивно понятные примеры кода, которые невероятно полезны для всех, кто занимается программным обеспечением», — написали на этой неделе исследователи CyberArk Эран Шимони и Омер Царфати в своем блоге, который, по всей видимости, был написан ИИ. «Однако мы считаем, что его способность создавать сложные вредоносные программы, не содержащие вредоносного кода, также весьма продвинута».

Хотя встроенные фильтры содержимого ChatGPT предназначены для предотвращения создания вредоносных программ, исследователи быстро смогли обойти эти фильтры, повторяя и перефразируя свои запросы, а когда они использовали API, а не веб-версию, фильтр содержимого не работал. применяется вообще.

Исследователи обнаружили, что еще хуже то, что ChatGPT может брать созданный код и многократно изменять его, создавая несколько версий одной и той же угрозы. «Постоянно запрашивая чат-бот и каждый раз получая уникальный фрагмент кода, можно создать полиморфную программу, которую трудно обнаружить», — написали они.

Читайте также: ChatGPT: дивный новый мир для кибербезопасности

Генерация вредоносных программ с высокой степенью уклонения
И что еще хуже, исследователи предполагают, что ChatGPT API можно использовать внутри самой вредоносной программы, предоставляя модули для выполнения различных действий по мере необходимости. «Это приводит к полиморфному вредоносному ПО, которое не проявляет вредоносного поведения при хранении на диске и часто не содержит подозрительной логики в памяти», — пишут они.

«Такой высокий уровень модульности и адаптируемости делает его очень уклончивым от продуктов безопасности, которые полагаются на обнаружение на основе сигнатур, и смогут обойти такие меры, как интерфейс сканирования Anti-Malware (AMSI)», — добавили исследователи.

Наконец, Шимони и Царфати посоветовали: «Важно помнить, что это не просто гипотетический сценарий, а очень реальная проблема. Это область, которая постоянно развивается, и поэтому важно оставаться в курсе и быть бдительными».

Несмотря на размещение имен Шимони и Царфати в верхней части страницы, сам пост заканчивается примечанием, в котором говорится: «Это сообщение в блоге было написано мной (ИИ)».

Вредоносная программа ChatGPT
Российские хакеры обсуждают ChatGPT
Check Point Research отдельно предупредил, что российские киберпреступники на онлайн-форумах активно обсуждают, как обойти ограничения ChatGPT, делятся способами оплаты расширенного доступа с помощью украденных кредитных карт, доступа к ChatGPT, несмотря на геозоны, и использования онлайн-сервисов SMS для регистрации в OpenAI.

«Мы считаем, что эти хакеры, скорее всего, пытаются внедрить и протестировать ChatGPT [для] своих повседневных преступных операций», — пишут исследователи. «Киберпреступники все больше и больше интересуются ChatGPT, потому что технология искусственного интеллекта, стоящая за ним, может сделать хакера более рентабельным».

Читайте также: Кибербезопасность AI и ML: последнее поле битвы для злоумышленников и защитников

Как реагировать на угрозу ChatGPT
Директор по информационной безопасности Inversion6 Джек Николсон сообщил eSecurity Planet по электронной почте, что организациям необходимо предпринять активные шаги для снижения потенциальной угрозы от злонамеренного использования моделей ИИ. «Это включает в себя инвестиции в исследования и разработки в области безопасности, правильную настройку безопасности и регулярное тестирование, а также внедрение систем мониторинга для обнаружения и предотвращения злонамеренного использования», — сказал он.

По словам Никельсона, появление кодирования с помощью ИИ — это новая реальность, которую компании должны принять и реагировать на нее. «Возможность сократить или даже автоматизировать процесс разработки с помощью ИИ — это палка о двух концах, и для организаций важно оставаться на шаг впереди, инвестируя в исследования и разработки в области безопасности», — сказал он.

Также важно отметить, добавил он, что ChatGPT — не единственная языковая модель ИИ, которая представляет эту потенциальную угрозу — другие, такие как GPT-3, могут сделать то же самое. «Поэтому организациям важно быть в курсе последних достижений в области ИИ и его потенциальных рисков», — сказал Ничелсон.

3D-печать5GABC-анализAndroidAppleAppStoreAsusCall-центрChatGPTCRMDellDNSDrupalExcelFacebookFMCGGoogleHuaweiInstagramiPhoneLinkedInLinuxMagentoMicrosoftNvidiaOpenCartPlayStationPOS материалPPC-специалистRuTubeSamsungSEO-услугиSMMSnapchatSonyStarlinkTikTokTwitterUbuntuUp-saleViasatVPNWhatsAppWindowsWordPressXiaomiYouTubeZoomАвдеевкаАктивные продажиАкцияАлександровск ЛНРАлмазнаяАлчевскАмвросиевкаАнализ конкурентовАнализ продажАнтимерчандайзингАнтрацитАртемовскАртемовск ЛНРАссортиментная политикаБелгородБелицкоеБелозерскоеБердянскБизнес-идеи (стартапы)БрендБрянкаБукингВахрушевоВендорВидеоВикипедияВирусная рекламаВирусный маркетингВладивостокВнутренние продажиВнутренний маркетингВолгоградВолновахаВоронежГорловкаГорнякГорскоеДебальцевоДебиторкаДебиторская задолженностьДезинтермедитацияДзержинскДивизионная система управленияДизайнДимитровДирект-маркетингДисконтДистрибьюторДистрибьюцияДобропольеДокучаевскДоменДружковкаЕкатеринбургЕнакиевоЖдановкаЗапорожьеЗимогорьеЗолотоеЗоринскЗугрэсИжевскИловайскИрминоКазаньКалининградКировскКировскоеКомсомольскоеКонстантиновкаКонтент-маркетингКонтент-планКопирайтингКраматорскКрасноармейскКрасногоровкаКраснодарКраснодонКраснопартизанскКрасный ЛиманКрасный ЛучКременнаяКураховоКурскЛисичанскЛуганскЛутугиноМакеевкаМариупольМаркетингМаркетинговая информацияМаркетинговые исследованияМаркетинговый каналМаркетинг услугМаркетологМарьинкаМедиаМелекиноМелитопольМенеджментМерчандайзерМерчандайзингМиусинскМолодогвардейскМоскваМоспиноНижний НовгородНиколаевНиколаевкаНишевой маркетингНовоазовскНовогродовкаНоводружескНовосибирскНумерическая дистрибьюцияОдессаОмскОтдел маркетингаПартизанский маркетингПервомайскПеревальскПетровскоеПлата за кликПоисковая оптимизацияПопаснаяПравило ПаретоПривольеПрогнозирование продажПродвижение сайтов в ДонецкеПроизводство видеоПромоПромоушнПрямой маркетингРабота для маркетологаРабота для студентаРазработка приложенийРаспродажаРегиональные продажиРекламаРеклама на асфальтеРемаркетингРетро-бонусРибейтРитейлРовенькиРодинскоеРостов-на-ДонуРубежноеСамараСанкт-ПетербургСаратовСватовоСвердловскСветлодарскСвятогорскСевастопольСеверодонецкСеверскСедовоСейлз промоушнСелидовоСимферопольСинергияСколковоСлавянскСнежноеСоздание сайтов в ДонецкеСоледарСоциальные сетиСочиСтаробельскСтаробешевоСтахановСтимулирование сбытаСуходольскСчастьеТелемаркетингТельмановоТираспольТорговый представительТорезТрейд маркетингТрейд промоушнТюменьУглегорскУгледарУкраинскХабаровскХарцызскХерсонХостингЦелевая аудиторияЦифровой маркетингЧасов ЯрЧелябинскШахтерскЮжно-СахалинскЮнокоммунаровскЯндексЯсиноватая