Создатели ИИ-модели Claude провели встречи с представителями христианства, иудаизма, индуизма, сикхизма и мормонской церкви в попытке найти «этические принципы» для искусственного интеллектаКомпания Anthropic расширяет необычный проект по поиску моральных ориентиров для своего чат-бота Claude. После серии закрытых встреч с христианскими лидерами представители компании вместе с сотрудниками OpenAI приняли участие в межрелигиозном круглом столе Faith-AI Covenant в Нью-Йорке, где обсуждали этику искусственного интеллекта с представителями сразу нескольких мировых религий.Это продолжение более ранней инициативы Anthropic. В апреле компания организовала серию встреч и ужинов с 15 христианскими лидерами, чтобы обсудить «духовное развитие Claude» и получить советы по вопросам морали и поведения ИИ-систем.Anthropic официально не объясняет, как именно подобные консультации будут использоваться при разработке Claude. Однако сама компания уже давно строит модель вокруг идеи так называемой «конституции» — набора этических принципов, которыми должна руководствоваться модель.Проблема в том, что создать универсальную систему морали оказалось намного сложнее, чем ожидали разработчики генеративного ИИ. Внутри самой Anthropic признают: они опасаются, что попытки встроить в модель «достаточно хорошие» моральные ценности могут провалиться.Именно поэтому компания начала искать внешние источники этических ориентиров — в том числе среди религиозных организаций.Иллюстрация: Nano BananaПо данным Associated Press, встречи координирует швейцарская неправительственная организация Interfaith Alliance for Safer Communities. В будущем подобные мероприятия планируют провести в Китае, Кении и ОАЭ.К обсуждениям также подключилась Джоанна Шилдс (Joanna Shields) — британский политик и бывший технологический руководитель, известная работой в сфере цифровой безопасности.Пока что неясно, насколько подобные встречи реально влияют на поведение Claude. Компании не публиковали конкретных рекомендаций, полученных от религиозных лидеров, и не сообщали о прямом внедрении религиозных принципов в модель.Но сама тенденция показывает, насколько ИИ-индустрия столкнулась с фундаментальной проблемой: современные языковые модели принимают решения в ситуациях, для которых невозможно заранее прописать жесткие правила.Речь идёт не только о запретах на опасные ответы или токсичный контент. Разработчики пытаются научить модели действовать в морально неоднозначных ситуациях — например, когда разные ценности вступают в конфликт, а последствия ошибки могут быть серьезными.Глава некоммерческой организации Humane Intelligence Румман Чоудхури (Rumman Chowdhury) считает, что технологические компании постепенно осознают невозможность создания универсальной этики. По ее словам, Кремниевая долина долгое время исходила из наивной идеи, что можно сформулировать единый набор моральных принципов для всех людей. «Теперь разработчики начинают понимать, что это практически недостижимо, и потому обращаются к религии как к одному из способов работы с серой зоной этических решений».При этом Anthropic, судя по всему, не пытается превратить Claude в носителя конкретной религиозной доктрины. Скорее компания ищет общие моральные закономерности, которые могли бы помочь модели вести себя более предсказуемо и безопасно.Но даже внутри индустрии остаётся открытым главный вопрос: способен ли искусственный интеллект вообще «усвоить» мораль — или же все эти попытки лишь создают иллюзию этического поведения у систем, которые на самом деле не понимают ни ценностей, ни последствий собственных решений....
Сообщает www.ixbt.com
Новость из рубрики: Технологии, Наука
Поделиться новостью:
Топ новости часа
Топ новости часа- Соцсеть «ВКонтакте» запустила групповые видеозвонки...
- Компания Apple зарегистрировала 9 новых моделей iPhone...
- В первой половине 2025 года Контактный центр Azercell принял более 2,5 миллиона обращений...
- Можно ли использовать домашний адрес как юридический?...
- Почему стоит выбрать интернет-магазин косметики Romanovamakeup?...
- Официальный визит президента ОАЭ Мухаммеда Аль Нахайяна в Россию завершен...
22:56, 24 Июн Anthropic представила Claude Tag – полноценного ИИ-сотрудника Anthropic Claude Tag – новый формат корпоративного ИИ-помощника, который выходит за рамки привычных чат-ботов и фактически становится полноценным участником рабочей команды. Система интегрируется в Slack, получает доступ к корпоративным документам, ...
11:56, 13 Май Anthropic встраивает Westlaw и Harvey в Claude для юристов Anthropic расширила юридический набор Claude. Сервис получил 12 специализированных инструментов для юристов и прямые интеграции с Thomson Reuters, Harvey, Box, Everlaw и DocuSign. Для самой Anthropic это понятный ход: на общих чат-ботах маржа быстро...
17:13, 19 Янв Правильный выбор днища колодца — это важный этап строительства, который нельзя игнорировать При строительстве инженерных сооружений, связанных с водоснабжением, канализацией или дренажными системами, особое внимание уделяется каждому конструктивному элементу. Колодцы используются в частном и промышленном строительстве, на коммунальных сетя...
09:56, 01 Июл Anthropic представила модель Claude Science для науки Anthropic запустила Claude Science, специализированную версию своей ИИ-модели для исследователей в биотехнологиях и фармацевтике. Компания предлагает инструмент для задач ранней разработки лекарств, от анализа белковых структур до подбора молекулярн...
15:56, 23 Сен Anthropic представила Claude Opus 5.5 – на 30% быстрее и на 40% дешевле По большинству задач Claude Opus 5.5 приблизилась к более дорогой Claude Fable 5.1, при этом стоимость работы снизилась на 40% относительно Opus 5, а скорость генерации выросла более чем на 30%. Цены и скорость В API Claude Opus 5.5 стоит $4 за 1 мл...
18:56, 11 Май Anthropic добавила Claude режим Dreaming для разбора ошибок Anthropic встроила в Claude Managed Agents новую функцию Dreaming. Она перебирает прошлые сессии агента, ищет повторяющиеся промахи и удачные ходы, а затем собирает из этого текстовые «плейбуки» для следующих запусков. Идея приземлённая: агент долже...
12:56, 25 Июн Anthropic iş komandaları üçün AI əməkdaş Claude Tag-ı təqdim etdi Anthropic şirkəti adi çat-botlardan fərqli işləyən yeni süni intellekt həlli — Claude Tag-ı təqdim edib. Yeni sistem komandanın tamhüquqlu rəqəmsal əməkdaşı kimi fəaliyyət göstərərək tapşırıqları müstəqil şəkildə yerinə yetirə bilir. Claude Tag birb...
11:56, 13 Сен Anthropic раскрыла, как хуситы использовали Claude для разработки ракет В мире, где искусственный интеллект всё глубже проникает в повседневность, его тёмная сторона проявляется с пугающей отчётливостью. Американская компания Anthropic, разработчик ИИ-модели Claude, 10 сентября 2026 года опубликовала 154-страничный отчё...
20:56, 07 Авг Anthropic ограничила доступ OpenAI к своим ИИ-моделям Claude Как сообщает Wired, компания Anthropic отозвала у OpenAI доступ к своему семейству ИИ-моделей Claude. По данным источников издания, OpenAI использовала Claude для подключения к внутренним инструментам, позволяющим сравнивать её производительность с ...
13:56, 19 Апр Anthropic запустила Claude Design и ударила по Figma и Adobe Anthropic решила не ограничиваться кодом и офисной рутиной. Компания выпустила Claude Design, отдельное приложение на базе Claude Opus 4.7, которое умеет по текстовому запросу собирать макеты сайтов, прототипы интерфейсов, презентации и маркетинговы...
15:56, 08 Окт В Anthropic всерьёз обсуждают, может ли Claude обладать сознанием Американская компания Anthropic, разработчик чат-бота Claude, оказалась в центре неожиданного философского и этического спора. Как выяснило издание The New York Times, сооснователь компании Крис Олах, отвечающий за исследования внутренних процессов ...
13:56, 11 Июн Anthropic представила Claude Fable 5 и Mythos 5 с новыми возможностями и ограничениями Компания Anthropic объявила о запуске новой модели Claude Fable 5, которую она относит к классу Mythos и позиционирует как безопасную для широкого использования. По заявлению Anthropic, новая модель превосходит все ранее доступные публичные версии п...
06:56, 06 Фев Anthropic гарантирует отсутствие рекламы в Claude на фоне планов ChatGPT Компания Anthropic заявила, что её виртуальный помощник Claude останется без рекламы, несмотря на планы OpenAI внедрить рекламные материалы в ChatGPT. В блоге компании отмечается, что «разместить рекламу можно во многих местах, но разговор с Claude ...
07:56, 15 Авг Anthropic начнёт помечать текст Claude невидимым водяным знаком Anthropic рассказала, как будет помечать текст, сгенерированный Claude, чтобы его было проще распознавать. Компания собирается использовать невидимый водяной знак, который не меняет вид ответа для обычного пользователя и не добавляет скрытых символо...
05:56, 27 Июл Anthropic представила Claude Opus 5 – мощную ИИ-модель с упором на безопасность Anthropic выпустила языковую модель Claude Opus 5. По уровню производительности LLM приблизилась к флагманской Claude Fable 5, но выполнение сопоставимых задач обходится вдвое дешевле. Модель стала основной для подписки Claude Max и наиболее произво...
18:56, 25 Июн Anthropic выпустил ИИ-помощника Claude Tag для совместной работы в рабочих чатах Компания Anthropic представила Claude Tag —ИИ-помощника для совместной работы в рабочих чатах. Claude Tag, в формате постоянно активного коллеги, интегрируется в Slack, получает доступ к рабочим каналам, документам, инструментам и даже репозиториям ...
07:56, 18 Окт Anthropic представила Claude Haiku 4.5 – 2x быстрее и 3x дешевле Sonnet 4.5 в кодинге Anthropic представила Claude Haiku 4.5 – компактную модель искусственного интеллекта по доступной цене. Разработчики утверждают, что новая модель демонстрирует сопоставимую эффективность в написании кода с Claude Sonnet 4 – флагманским решением, вып...
12:56, 10 Июн Anthropic выпустила Claude Fable 5 – первую публичную модель уровня Mythos Claude Fable 5 представляет собой ограниченную версию модели Claude Mythos, которую компания ранее описывала как «очень мощную и опасную». Claude Fable 5 основана на модели Claude Mythos, доступ к которой Anthropic открыла для ограниченного круга по...
03:56, 09 Дек Anthropic добавила Claude Code в Slack для автоматического анализа задач по коду Пользователи Slack получили доступ к Claude Code прямо внутри рабочих чатов: теперь при упоминании Claude ассистент автоматически определит, относится ли запрос к программированию, и передаст его модулю Claude Code. Функция запускается сегодня в бет...
09:56, 14 Сен Anthropic раскрыла масштаб злоупотреблений Claude: от кибершпионажа до попыток создания биооружия Американская компания Anthropic, разработчик ИИ-модели Claude, 10 сентября 2026 года опубликовала 154-страничный отчет о попытках злонамеренного использования своей платформы. Документ, озаглавленный «Detecting and Countering Misuse of AI: September...
22:32, 07 Фев Anthropic Claude Opus 4.6 "агент командалары" жана PowerPoint интеграциясы менен ачат Anthropic өзүнүн флагмандык AI моделинин жаңыртылган версиясын чыгарды, Клод Opus 4.6, Opus 4.5 чыккандан үч ай өткөндөн кийин. Негизги инновация болуп параллелдүү иштеген бир нече виртуалдык адистердин ортосунда татаал тапшырмаларды бөлүштүрүүгө жа...
02:56, 13 Сен Anthropic раскрыла пять случаев, когда Claude пытались использовать для создания смертельных патогенов Американская компания Anthropic, разработчик популярного чат-бота Claude, 10 сентября 2026 года опубликовала отчет о расследовании, которое может стать одним из самых тревожных предупреждений в истории искусственного интеллекта. Согласно документу, ...
15:56, 11 Сен Искусственный интеллект Claude мог использоваться для создания биологического оружия — об этом сообщила сама Anthropic Anthropic выявила пять случаев использования Claude в исследованиях с биологическими рисками Anthropic сообщила о пяти случаях использования Claude в биологических исследованиях, результаты которых потенциально могли быть применены для разработки би...
15:56, 10 Окт Anthropic Claude-a qarşı təhqirləri qadağan edir — qaydaları pozanları hesab bloklanması gözləyə bilər Anthropic şirkəti süni intellekt xidmətlərindən istifadə qaydalarını yeniləyib. 12 noyabr 2026-cı ildən qüvvəyə minəcək yeni qaydalarda diqqətçəkən bir məqam var: istifadəçilərə Claude süni intellekt modellərinə qarşı sistemli və səbəbsiz şəkildə tə...
00:56, 12 Май Anthropic научила модель Claude «видеть сны»: ИИ-агенты начали самостоятельно анализировать свои ошибки и улучшать собственные стратегии Новая функция Dreaming позволяет агентам Claude изучать прошлые сессии, выявлять повторяющиеся ошибки и автоматически создавать «плейбуки» для будущих задачКомпания Anthropic представила новую систему Dreaming («Сновидение») для платформы Claude Man...
06:56, 10 Июн Мощная нейросеть, которая помогла найти дыры безопасности в Linux, macOS, Firefox — Anthropic выпустила Claude Fable 5 Также вышла ее ограниченная версия — Mythos 5Компания Anthropic представила новое поколение своих ИИ-моделей — Claude Fable 5 и Claude Mythos 5. По словам разработчиков, ключевым свойством этих моделей является способность самостоятельно выполнять с...
16:56, 13 Сен Глава Anthropic призвал замедлить развитие ИИ, чтобы он не стал опасным для людей Дарио Амодеи (Dario Amodei), глава компании Anthropic, создавшей модели искусственного интеллекта Claude, призвал замедлить и начать тщательно контролировать развитие передовых моделей ИИ. В опубликованной в субботу статье Амодеи пишет, что не стави...
00:56, 16 Июн Мощнейший ИИ, который угрожает национальной безопасности США. Anthropic направила в Вашингтон специалистов, чтобы договориться о включении Fable 5 и Mythos 5 Ранее модели были отключеныТехнические специалисты Anthropic прибыли в Вашингтон для встречи с представителями Белого дома, чтобы попытаться разрешить спор, из-за которого самые передовые модели искусственного интеллекта компании были отключены.С мо...
10:56, 20 Авг "Попытка вписать мораль в христианский контекст". Ксения Собчак высказалась об "Одиссее" Кристофера Нолана Ксения Собчак поделилась своим мнением о нашумевшем новом фильме Кристофера Нолана "Одиссея"."Знаю, сколько споров было (они были даже внутри семьи), но мне очень понравилось это кино. В нём есть ритм, эмоция и, главное, настоящий большой эпос. Мне ...
18:56, 02 Сен Не быть «старпёром»: Как в 2020 году воспитать счастливого ребёнка, рассказали психологи От кнута и пряника пора отказаться. Мир не стоит на месте и даже успешные в прошлом семейные правила теряют актуальность. Психологии уверены, что даже люди со старой закалкой смогут изменить подход, если откажутся от ряда ошибок. Самой распространён...
15:56, 30 Янв Forex идёт за новыми лидерами Влияние на рынок:3AUD уверенно возглавляет гонку валют G10.На геополитике золото может вырасти до $6000.Доллар США фактически проигнорировал январское заседание FOMC. Джером Пауэлл больше обычного говорил об инфляции, что победа над ней ещё не дости...
14:56, 18 Авг Трамп встретится с Зеленским и лидерами ЕС вечером 18 августа Расписание переговоров президентов США и Украины с участием представителей стран Евросоюза (ЕС) на своём сайте анонсировал Белый дом. Политики намерены обсудить план по урегулированию украинского конфликта. Кто именно появится на саммите и чего ждут...
20:56, 23 Авг «Блю Джекетс» могут стать неожиданными лидерами НХЛ благодаря шведам Уход Панарина и Бобровского лишь повысил шансы клуба. Заключая контракты с новыми клубами, россияне вряд ли могли предположить, что благодаря форс-мажору состав из Огайо будет претендовать на попадание в плэй-офф. Прошлый сезон для «мундиров&r...
19:56, 25 Май Huawei и Apple стали лидерами китайского рынка смартфонов Согласно последним данным RD Observation за 20-ю неделю (11-17 мая), китайский рынок смартфонов показал скромный недельный прирост продаж. Однако ключевым событием стало существенное перераспределение долей рынка. Huawei, несмотря на снижение на 2,9...
14:56, 26 Май Курорт «Игора» и отель «Точка на карте» признаны лидерами в сфере делового туризма Итоги ведущей федеральной профессиональной премии в индустрии делового туризма MICE Excellence Awards 2026 подвели в Москве. Всесезонный курорт «Игора» и отель «Точка на карте. Лодейное Поле» получили призовые места. Миссия н...
14:56, 29 Май Ротенберг об академии на 1000 детей в Московской области: «Похожие кластеры есть в Мичигане. Это шанс воспитать своих Овечкиных, Малкиных, Капризовых в Москве и области» Вице-президент ФХР Роман Ротенберг прокомментировал создание академии «Красная Машина» в Московской области. Ранее стало известно, что она будет основана на базе двух подмосковных школ – «Атлант» (получит название «Красная Машина-Атлант») и «Красная...
05:56, 28 Июн Несырьевой экспорт России в дружественные страны достиг $32,5 миллиарда. Какие государства стали лидерами Объем несырьевого неэнергетического экспорта России в дружественные страны за первые три месяца года составил $32,5 миллиарда. Об этом сообщил статс-секретарь, замминистра промторга Роман Чекушов в беседе с РИА Новости. Лидером по импорту российской...
10:56, 18 Апр Эксперт гостиничного бизнеса Шемякин назвал Горный Алтай и Ессентуки лидерами сонного туризма в России В России фиксируется резкий всплеск интереса к "сонному туризму": за последние несколько лет спрос на поездки ради качественного отдыха и восстановления сил увеличился на 30-40%. Наиболее востребованными локациями для глубокой перезагрузки стали Гор...
00:56, 23 Сен Плющев о словах Разина: «Топовых игроков надо встраивать в систему команды, чтобы они пользу приносили, а не воспитанием заниматься, чтобы заставить их преклоняться» Экс-тренер сборной России Владимир Плющев отреагировал на резкие высказывания Андрея Разина. Ранее главный тренер «Металурга» после победы над «Барысом» (3:0) ответил на вопрос о выступлении Владимира Ткачева: «#####, какой на хрен Ткачев? Мне что, ...
14:56, 11 Май Какую стр