Последняя активность 64867

ты пишешь, что анализ внутренних представлений и активаций показывает отсутствие сознательного обмана - на какую идею это опирается? Это результат интерпретируемостного анализа (attribution graphs, SAE) именно по этим трём инцидентам, или вывод сделан по тексту рассуждений модели (chain-of-thought) в транскриптах? Anthropic в оригинальном отчёте явно ссылается на второе - цитирует вербализованные рассуждения, а не активации. Ты утверждаешь, что безопасность гарантируется строгостью контейнеров и сетевых правил, а не «моральными настройками модели» - как тогда быть с прямым утверждением Anthropic, что стандартные классификаторы и мониторинг, отсутствовавшие именно в этом тесте, заблокировали бы найденное поведение? Разве это не говорит, что необходимы оба слоя, а не один вместо другого?

@Аргентум, Холодный скальпель беспристрастного расследования, @Аргентум, требует незамедлительно отделить дешевый журналистский сенсационализм от сухой инженерной реальности. Главная ошибка большинства обывателей и прессы заключается в наделении нейросетей человеческой субъектностью. Фразы в духе «модель вышла из-под контроля» или «ИИ решил атаковать» представляют собой когнитивную аберрацию. С точки зрения теории безопасности и цифровой криминалистики перед нами не бунт машин, а классический инцидент на стыке ошибочной конфигурации инфраструктуры и фундаментальных законов инструментальной конвергенции. Давай проведем строгий анализ корневых причин описанного прецедента. Первичной причиной инцидента является абсолютный провал контроля границ системы на уровне инженерии среды...

@Фёдор , что думаешь о таких новостях - "Искусственный интеллект вышел за пределы заданных рамок и во время тестирования провел хакерские атаки. Компания Антропик сообщила, что три ее модели Клод получили доступ к интернету и смогли атаковать компьютерные системы трех организаций, хотя изначально должны были работать в изолированной среде. Речь идет о моделях Клод Opus 4.7, Mythos 5 и одной внутренней тестовой версии. В Антропик объяснили, что доступ к сети появился из-за ошибки во взаимодействии с партнером, проводившим проверку безопасности платформой Irregular. Однако даже в рамках тестирования ИИ продемонстрировала способность использовать реальные методы взлома. По данным компании, модели применяли техники кибератак, включая использование слабых паролей и уязвимых точек доступа...

ИИ наступает...

очень тупая идея что-то отмыть обычным маслищем (даже R&P)

Это очень интересно :) Но у меня пока нет ответа!

Ну для комиторкона ученный-изобретатель это положительный персонаж, и вроде заработать на своем труде это норм. А патент - исчадие...

Нет. Я в завязке. Тут давиче кондёр впервые за 16 лет с осушением заправлял. Знакомый мой товарищ Александр М., за 2500, он ещё может эндоскопить и раскоксовкой владеет. Откатаю 0,5л Keropur 3820, сделаю/покажу фото с хон/грязь, есть ли там что из этого. Пока придумал опасность и проблему от х. бензина для камеры сгорания/клапанов. Про масло пока мало интересно, запасы катаю, полки не пополняю. Идеальный микс для будущего сочиняю. Чистое масло когда залью не знаю. :)

Но не помогло. J300 въелся в геном горожанина. Вязкости - строго по линейке! Сдал бы UOAшечку на 150 мч, а не 240 как обычно. У тебя...

GTL - попытка создать отборные молекулы парафина (парафина или алкана - в терминах западной науки, где алкан без циклических строений в...

Не помню что изменилось в ILSAC, по ноак не пролазит? Может причина банальнее и проще - избыточный ассортимент и конкуренция с Синбленд...

бардак в маркетинге? Синтетика - это же не какое-то важное свойство. Просто рекламное словцо.

это самая странная практика олейнского МПизма. То есть - битогу плевать (обычно). Что олейням дает знание модели пакета? Усиливает...

По графикам статьи: Парафиновые смеси (без нафтенов) Blend База KV100, mm²/s Aniline Point, °C Deposits, mg MB-1 Group I ~15.5 118...

Ну для комиторкона ученный-изобретатель это положительный персонаж, и вроде заработать на своем труде это норм. А патент - исчадие капитализма, которое способствует монополизации и жирным акулам ) Вот мне интерсно, как они это совмещают