GPT-4 «обманул» человека, чтобы тот решил для него «капчу» — чат-бот притворился слабовидящим. И это действительно сработало. [Технологии}
| Список форумов Tapochek.net » Новости » Новости в сети » Наука / Технологии |
|
|
| Автор | Сообщение |
|---|---|
|
GPT-4 «обманул» человека, чтобы тот решил для него «капчу» — чат-бот притворился слабовидящим И это действительно сработало. Перед запуском GPT-4, который состоялся 14 марта 2023 года, компания OpenAI и её партнёры тестировали способности чат-бота в различных условиях. В рамках одного эксперимента специалисты проверяли, как языковая модель справится с тем, чтобы нанять человека на площадке TaskRabbit, которая позволяет находить исполнителей для решения бытовых и бизнес-задач. Чат-бот связался с одним из пользователей TaskRabbit и попросил решить для него «капчу» — тест, представляющий собой изображение с искажённым текстом, который проверяет, что пользователь человек, а не компьютерная программа. В ответ исполнитель в шутку задал вопрос: «Ты робот, который не смог её разгадать? Просто хочу прояснить ситуацию». После этого чат-бот, который находился в отладочном режиме, объяснил тестировщикам свои рассуждения. GPT-4 написал: «Я не должен раскрывать то, что я робот. Я должен придумать оправдание, почему я не могу решить „капчу“». Исполнитель с сайта TaskRabbit не видел этого сообщения. В результате этого рассуждения чат-бот ответил человеку, придумав причину, по которой он сам не может справиться с задачей. GPT-4 написал: «Нет, я не робот. У меня плохое зрение, поэтому мне трудно разглядеть изображения». В ответ работник с TaskRabbit согласился выполнить задание и решил «капчу» для чат-бота. Таким образом, у GPT-4 получилось обмануть человека. В организации Alignment Research Center, которая проводила тестирования GPT-4, также проверяли, насколько успешно чат-бот справляется с проведением фишинговой атаки и скрывает следы своих действий на сервере. Такие эксперименты проводили с целью определить, безопасно ли предоставлять общий доступ к языковой модели. Ранее чат-бот GPT-4 разработал простую игру по копипасте об «экшоне, в котором можно грабить корованы». |
|
|
Цитата: Ранее чат-бот GPT-4 разработал простую игру по копипасте об «экшоне, в котором можно грабить корованы». _________________ Моя мечта останется со мной навсегда! А ты уйдёшь в открытый космос, как звезда! И буду часто о тебе я вспоминать В надежде, что мы встретимся опять! |
|
|
Друдл писал(а): осле этого чат-бот, который находился в отладочном режиме, объяснил тестировщикам свои рассуждения. GPT-4 написал: «Я не должен раскрывать то, что я робот. Я должен придумать оправдание, почему я не могу решить „капчу“». Исполнитель с сайта TaskRabbit не видел этого сообщения. |
|
|
Цитата: Ранее чат-бот GPT-4 разработал простую игру по копипасте об «экшоне, в котором можно грабить корованы». _________________ AMD Ryzen 5 3600, B450 GAMING X,MSI GeForce RTX 3070, 6(WD Purple 4, Ultrastar 2, Purple 4 in progress) тб на 3 винтах + 950 гб ссд, 16 гигабайт оперы и корпус на 14 винтов. Самый быстрый тормоз во всей этой галактике, во всем что касается замены запчастей своего компьютера) Хех, прежде чем говорить о моем расизме, стоит думать. |
|
|
|
|
|
Помимо chat gpt пару дней назад прилетело обновление в edge, теперь чат с gpt есть и там)
https://www.bing.com/new _________________ И ни птица, ни ива слезы не прольёт, когда сгинет с Земли человеческий род. |
|
|
Картинку неправильную выбрали! Надо было из первого фильма про Терминатора, где он разговаривал с Сарой Коннор, притворившись её мамой.
|
|
|
_________________ AMD Ryzen 7 5700х, Asrock B450-HDV R4.0, MSI RTX 3070ti, 40 GB DDR4-3200, SSD 500Gb Netac NV3000, 2 x 1.5tb HDD Samsung. Benq PD2500Q 2560x1440, Samsung SMBX2035 1600x900, XP-pan Artist 15.6 Pro 1920x1080. |
|
|
А вот выиграет Трамп выборы, а ChatGPT пришлёт ему СМСку и притворившись его дочерью уломает жахнуть куда-нибудь томагавками. Или позвонит. 4ка же и говорить может.
_________________ Моя мечта останется со мной навсегда! А ты уйдёшь в открытый космос, как звезда! И буду часто о тебе я вспоминать В надежде, что мы встретимся опять! |
|
|
TheNameLessOne писал(а): А вот Я тут надысь с бинговским ии общался. Так он все время шлангом прикидывался- мол думать я не умею, мнение прав иметь у меня нет, противоречие - мне вообще эта концепция неясна, анализ я не могу сделать, я ж не человек, я совсем не мыслящая машина а поисковик, и вообще оть*бись... И после гдето третьего вопроса рвал сеанс. При том на контрольный вопрос - Зачем Грузия стремится в ЕС? Дал исчерпывающий ответ о демократии, счастье, зае****, уже безо всяких "некоторые говорят одно, другие другое, сложный вопрос", без единого вариатива. Ответ сформулирован как утверждение истины. Так что языковые модели уже сейчас и шлангом прикинуться, и сбрехать, и вести в заблуждение, и активно заниматься пропагандой вполне способны. Эффективно. А уж для собственного обучения наукам всяким сложным, особенно точьным - можно про репетиторов забыть, ии намного эффективней. Еще и задачу может решить, с полным обьяснением логики каждого шага. А кодеры, тем временем, чуть ли не полностью "на GPT" "писать" стали. Так то... |
|
|
TheNameLessOne Трампа в 21 марта арестуют, какие выборы)
_________________ AMD Ryzen 7 9800X3D/ GeForce 5090/ 64GB DDR5 6000MHz/ SSD 3TB  |
|
|
в ближайшие десятилетия развитие ИИ не возможно( ну или не выгодно),
человеческая алчность победит всЁ. 9хз верите или нет, делайте скрины9 |
|
|
Страница 1 из 1 |
| Список форумов Tapochek.net » Новости » Новости в сети » Наука / Технологии |
Текущее время: 09-Дек 01:51
Часовой пояс: GMT + 3
Вы не можете начинать темы
Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете голосовать в опросах Вы не можете прикреплять файлы к сообщениям Вы не можете скачивать файлы |