Все ИИ-гиганты провалили проверку на безопасность — никто не в состоянии контролировать суперинтеллект [Технологии]
| Список форумов Tapochek.net » Новости » Новости в сети » Наука / Технологии |
|
|
| Автор | Сообщение |
|---|---|
|
Новый отчёт группы по безопасности искусственного интеллекта Future of Life Institute (FLI) указывает на то, что меры обеспечения безопасности ведущих отраслевых компаний, таких как OpenAI, Anthropic, xAI и Meta✴, «далеки от новых мировых стандартов». Независимые эксперты пришли к выводу, что хоть IT-гиганты и соревнуются в разработке так называемого «суперинтеллекта», ни один из них не имеет продуманной стратегии контроля таких передовых систем.
Результаты исследования опубликованы на фоне растущей общественной обеспокоенности по поводу социального воздействия систем, превосходящих человека в плане интеллектуальных способностей, которые могут рассуждать и мыслить логически. Поводом для таких опасений стали несколько случаев, когда ИИ-боты подталкивали людей к самоубийству или нанесению себе вреда. «Несмотря на недавний шум вокруг хакерских атак с использованием ИИ и случаев, когда ИИ доводил людей до психоза и членовредительства, американские ИИ-компании остаются менее регулируемыми, чем рестораны, и продолжают выступать против обязательных стандартов безопасности», — заявил Макс Тегмарк (Max Tegmark), профессор MIT и президент Future of Life. Отмечается, что гонка в сфере ИИ не показывает признаков замедления. Крупные технологические компании инвестируют сотни миллиардов долларов в модернизацию и расширение своих проектов в сегменте ИИ. Напомним, FLI является некоммерческой организацией, которая привлекает внимание общественности к рискам, с которыми человечество может столкнуться в случае появления «умных» машин. Организация существует с 2014 года и на ранних этапах её поддерживал американский бизнесмен Илон Маск (Elon Musk). Последний недавно назвал три принципа, без которых ИИ станет опасен для человека. |
|
|
и кого они этим хотели удивить?
сколько уже так было ничто не ново в этом мире _________________ Уходя - уходи о5 кучи ботов бегают из темы в тему |
|
|
А причем тут "ИИ", если у большей части людей просто проблемы с башкой?
 |
|
|
HoD писал(а): А причем тут "ИИ", если у большей части людей просто проблемы с башкой? _________________ AMD Ryzen 7 5700х, Asrock B450-HDV R4.0, MSI RTX 3070ti, 40 GB DDR4-3200, SSD 500Gb Netac NV3000, 2 x 1.5tb HDD Samsung. Benq PD2500Q 2560x1440, Samsung SMBX2035 1600x900, XP-pan Artist 15.6 Pro 1920x1080. |
|
|
ИИ надо воспринимать, как друга-приколиста, что-бы не сказал, всегда перепроверяй
|
|
|
Страница 1 из 1 |
| Список форумов Tapochek.net » Новости » Новости в сети » Наука / Технологии |
Текущее время: 05-Дек 20:24
Часовой пояс: GMT + 3
Вы не можете начинать темы
Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете голосовать в опросах Вы не можете прикреплять файлы к сообщениям Вы не можете скачивать файлы |