> «О дивный новый мир» / прелести и ужасы науки и техники

[Lor]

Наизобретали и испугались.

Бенгио, Маск, Возняк и много других причастных, призвали приостановить обучение систем ИИ мощнее GPT-4.
Гуглоперевод:

Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признано ведущими лабораториями искусственного интеллекта. Как указано в широко одобренных Принципах ИИ Asilomar, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами. К сожалению, такого уровня планирования и управления не существует, даже несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто -- даже их создатели -- не может понять. прогнозировать или надежно контролировать.

Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе выполняющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с величиной потенциальных эффектов системы. В недавнем заявлении OpenAI относительно общего искусственного интеллекта говорится, что «в какой-то момент может оказаться важным получить независимую оценку, прежде чем приступать к обучению будущих систем, и для самых передовых усилий согласиться ограничить скорость роста вычислений, используемых для создания новых». модели». Мы согласны. Эта точка сейчас.

Поэтому мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть общедоступной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий.

Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны. Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с появляющимися возможностями.

Исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать современные мощные современные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.

Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ. Они должны как минимум включать: новые и дееспособные регулирующие органы, занимающиеся вопросами ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших пулов вычислительных мощностей; системы происхождения и водяных знаков, помогающие отличить настоящие от синтетических и отслеживать утечки моделей; надежная экосистема аудита и сертификации; ответственность за вред, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ; и хорошо обеспеченные ресурсами институты для преодоления серьезных экономических и политических потрясений (особенно демократии), которые вызовет ИИ.

Человечество может наслаждаться процветающим будущим с ИИ. Добившись успеха в создании мощных систем ИИ, мы теперь можем наслаждаться «летом ИИ», во время которого мы пожинаем плоды, разрабатываем эти системы на благо всех и даем обществу возможность адаптироваться. Общество приостановило использование других технологий с потенциально катастрофическими последствиями для общества. Мы можем сделать это здесь. Наслаждаемся долгим летом с искусственным интеллектом, а не бросаемся в осень неподготовленными.

Йошуа Бенжио, основатель и научный руководитель Mila, лауреат премии Тьюринга и профессор Монреальского университета.
Стюарт Рассел, Беркли, профессор компьютерных наук, директор Центра интеллектуальных систем и соавтор стандартного учебника «Искусственный интеллект: современный подход»
Илон Маск, генеральный директор SpaceX, Tesla и Twitter
Стив Возняк, сооснователь Apple
Юваль Ной Харари, писатель и профессор Еврейского университета в Иерусалиме.
...
Всего 1000+ подписавших.

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[Луиджи]

для начала, мне,как не обладающему интеллектом, надо разъяснить, что такое GPT-4. может уже на уровне ГПТ4 (госпэтэу?!) этот самый интилект может без нас обойтись и вскарабкаться на следующий уровень.
опасения подписантов понятны, но, боюсь, что джина в бутылку уже не загнать. особенно,если "Параллельно разработчики ИИ должны работать с политиками" . это полный и неотвратимый пиздетс.

[Lor]

Изображения, сгенерированные при помощи Midjourney, наводнили Интернет. Самые удачные стали вирусными. Например, фотографию Папы Франциска в белом пуховике только в Twitter посмотрели более 20 млн раз. Причём некоторые пользователи говорили, что произведение Midjourney слишком реалистично, и они не понимают, что на самом деле имеют дело с креативом искусственного интеллекта.

Интересно, как завтра вообще будут работать журналисты и прочие блогеры?
Или СМИ будут покупать у правительства "синюю галочку"? Типа "органик новости"?

[ciao1]

да

фарш невозможно провернуть назад()

[ciao1]

врачей всерьёз опасаются может заменить
ну тех где руками делать ничего не надо

[Lor]

врачей всерьёз опасаются может заменить
ну тех где руками делать ничего не надо

Капа напряглась ...

[xxdevil]

Проктологи могут не переживать за свое светлое будущее.

Если ИИ такой умный, не захочет он в задницу лезть.

[MV]

Капа напряглась ...

А кто ты думаешь генерирует ее 100500 постов в день? Или это в час?

[Lor]

А кто ты думаешь генерирует ее 100500 постов в день? Или это в час?

Судя по постам, она их сама пишет.

[Луиджи]

не приё.. Капитолину заменить токо в 6-м поколение будет возможно - там же многостаночность какая нужна!  я вот два дня красил и понимаю, что это такое...

[Пикси]

не приё.. Капитолину заменить токо в 6-м поколение будет возможно - там же многостаночность какая нужна!  я вот два дня красил и понимаю, что это такое...

 

Народ! Вы какие-то буйные... Капа уже как год почти ничего не пишет, на РА в том числе. Или я её случайно забанила и не вижу?

[Пикси]

А кто ты думаешь генерирует ее 100500 постов в день? Или это в час?

Хде?

[Lor]

Капа уже как год почти ничего не пишет, на РА в том числе.

Наверное, настроения нет у неё.

[xxdevil]

Судя по постам, она их сама пишет.

Да. Это если и ИИ, то не выше Пентиум-3

[MV]

Народ! Вы какие-то буйные... Капа уже как год почти ничего не пишет, на РА в том числе. Или я её случайно забанила и не вижу?

Она на привет.фан.

ПС Мы ж шутя и любя. ))