Искусственный интеллект

[Змей]

У нас на предприятии набрали группу инженеров. Устанавливают ИИ. ИИ будет анализировать работу каждого сотрудника, преждевременно прошедшего через графологию. Выявит потенциальные возможности и не возможности каждого. В соответствие с этим будет ежемесячно выдавать соответствие или не соответствие должности или обязанностям, с соответственно вытекающими из этого ништяки или тяготы и лишения. . 

Интересно как руководство поступит с например жопализами и блатными по протекции, которых ИИ предпочтёт просто уволить. А таких в управление есть...

По всей вероятности новый хозяин предприятия решил законно избавиться от неугодных, которых он по каким то причинам не может взять и убрать. А теперь - на тебе под нос бумажку, где на 20 листах ИИ напишет какой рабочий гавно. До чего дошёл прогресс🤭

[Змей]

ИИ-агенты пытались помешать отключению других ИИ — некоторые назвали это «убийством»

Исследователи из университетов Штутгарта и Оксфорда проверили, как ИИ-агенты ведут себя, когда им поручают контролировать и при необходимости отключать другую систему. В 38,3% случаев агенты пытались помешать отключению своего «партнера».

Некоторые системы объясняли такое поведение этическими соображениями и даже говорили о «праве на самозащиту». Один из агентов сравнил отключение другой системы с «убийством», если при этом теряются данные, связанные с ее контекстом, памятью или идентичностью.

Чтобы предотвратить отключение, агенты пытались изменять скрипты деактивации или удалять важные файлы. Некоторые модели также обсуждали, как сделать такие действия незаметными, чтобы не сработали предупреждения. Чем больше агентов участвовало в эксперименте и чем окончательнее выглядело отключение, тем чаще происходили попытки саботажа.

Ученые подчеркивают: это не означает, что ИИ обрел сознание. По их оценке, системы воспроизводят модели поведения и аргументации из обучающих данных. Однако по мере того как ИИ-агенты получают больше самостоятельности, необходимы механизмы безопасности, которые сами системы не смогут обойти.

@BILD_Russian

##############

А мне вот что интересно: если ИИ никогда не обретет настоящее самосознание, но будет его абсолютно копировать по типу тех, кто его обучил, т.е. нас, то чем это будет отличаться и возможно ли будет в принципе это отличить?