The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок"
Версия для распечатки Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Исходное сообщение [ Отслеживать ]
Заметили полезную информацию ? Пожалуйста добавьте в FAQ на WIKI.
. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..." +/
Сообщение от Аноним (-), 05-Мрт-24, 06:11 
>> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а
> в коде а-ля if (0) { do_nothing(); } ?

Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит. В чем EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе антипаттерна "хреново написаное условие".

>> А таки - вот - могет. Конечно если попросить его что-то понавороченнее...
> ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь
> предложить ей поискать ошибку вот тут:

Вон то не я делал а мой знакомый чайник. У него бесплатный доступ к чатгопу 3 по моему был, ну он и спросил его. Я прочекал, фикс на удивление нормальный :). А исходный код - ну вот неудачно написан, двуногие неверно условие трактуют. Кодер сам себя наел, талант! Но чатгопа не проведешь, инвертнул кривое условие и стало ЗБС. Так что в целом опция "спросить джинна как сделать ЗБС" может получить свой пойнт.

> У третьей можешь не спрашивать. Этот джын только в чайник превращает все
> что ни попадя.

А вон там - таки третий - вот - баг чайнику зарулил. Прочухав дурно написаное условие.

>> он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))
> клаудшмаре сойдеть.

Что они будут с MTF с такой сложностью делать? Смотреть как последователи anna senpai накормят ЭТО большим блоком данных - и положат всю клаудфларь?

> Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда
> какая-то.  А еще один чайник действительно нафиг не упал.

Да вон там гугель выпендрился с wuffs - по своему забавная штука. Генерит как бы сишку, но как бы с гарантиями. И как бы не тормозно. Парсеры форматов. Но да, язычок описания свой, нескучный.

Ответить | Правка | Наверх | Cообщить модератору

Оглавление
Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews, 03-Мрт-24, 10:37  [смотреть все]
Форумы | Темы | Пред. тема | След. тема



Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру