Наизобретали и испугались.Бенгио, Маск, Возняк и много других причастных, призвали приостановить обучение систем ИИ мощнее GPT-4.
Гуглоперевод:
ЦитатаСистемы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признано ведущими лабораториями искусственного интеллекта. Как указано в широко одобренных Принципах ИИ Asilomar, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами. К сожалению, такого уровня планирования и управления не существует, даже несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто -- даже их создатели -- не может понять. прогнозировать или надежно контролировать.
Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе выполняющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с величиной потенциальных эффектов системы. В недавнем заявлении OpenAI относительно общего искусственного интеллекта говорится, что «в какой-то момент может оказаться важным получить независимую оценку, прежде чем приступать к обучению будущих систем, и для самых передовых усилий согласиться ограничить скорость роста вычислений, используемых для создания новых». модели». Мы согласны. Эта точка сейчас.
Поэтому мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть общедоступной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий.
Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны. Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с появляющимися возможностями.
Исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать современные мощные современные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.
Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ. Они должны как минимум включать: новые и дееспособные регулирующие органы, занимающиеся вопросами ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших пулов вычислительных мощностей; системы происхождения и водяных знаков, помогающие отличить настоящие от синтетических и отслеживать утечки моделей; надежная экосистема аудита и сертификации; ответственность за вред, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ; и хорошо обеспеченные ресурсами институты для преодоления серьезных экономических и политических потрясений (особенно демократии), которые вызовет ИИ.
Человечество может наслаждаться процветающим будущим с ИИ. Добившись успеха в создании мощных систем ИИ, мы теперь можем наслаждаться «летом ИИ», во время которого мы пожинаем плоды, разрабатываем эти системы на благо всех и даем обществу возможность адаптироваться. Общество приостановило использование других технологий с потенциально катастрофическими последствиями для общества. Мы можем сделать это здесь. Наслаждаемся долгим летом с искусственным интеллектом, а не бросаемся в осень неподготовленными.
Йошуа Бенжио, основатель и научный руководитель Mila, лауреат премии Тьюринга и профессор Монреальского университета.
Стюарт Рассел, Беркли, профессор компьютерных наук, директор Центра интеллектуальных систем и соавтор стандартного учебника «Искусственный интеллект: современный подход»
Илон Маск, генеральный директор SpaceX, Tesla и Twitter
Стив Возняк, сооснователь Apple
Юваль Ной Харари, писатель и профессор Еврейского университета в Иерусалиме.
...
Всего 1000+ подписавших.
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
для начала, мне,как не обладающему интеллектом, надо разъяснить, что такое GPT-4. может уже на уровне ГПТ4 (госпэтэу?!) этот самый интилект может без нас обойтись и вскарабкаться на следующий уровень.
опасения подписантов понятны, но, боюсь, что джина в бутылку уже не загнать. особенно,если "Параллельно разработчики ИИ должны работать с политиками" . это полный и неотвратимый пиздетс.
ЦитатаИзображения, сгенерированные при помощи Midjourney, наводнили Интернет. Самые удачные стали вирусными. Например, фотографию Папы Франциска в белом пуховике только в Twitter посмотрели более 20 млн раз. Причём некоторые пользователи говорили, что произведение Midjourney слишком реалистично, и они не понимают, что на самом деле имеют дело с креативом искусственного интеллекта.
Интересно, как завтра вообще будут работать журналисты и прочие блогеры?
Или СМИ будут покупать у правительства "синюю галочку"? Типа "органик новости"?
да
фарш невозможно провернуть назад()
врачей всерьёз опасаются может заменить
ну тех где руками делать ничего не надо
ciao1 - Март 30, 2023, 04:16 pmврачей всерьёз опасаются может заменить
ну тех где руками делать ничего не надо
Капа напряглась ...
Проктологи могут не переживать за свое светлое будущее.
Если ИИ такой умный, не захочет он в задницу лезть.
Lor - Март 30, 2023, 07:53 pmКапа напряглась ...
А кто ты думаешь генерирует ее 100500 постов в день? Или это в час?
MV - Март 31, 2023, 02:59 amА кто ты думаешь генерирует ее 100500 постов в день? Или это в час?
Судя по постам, она их сама пишет.
не приё.. Капитолину заменить токо в 6-м поколение будет возможно - там же многостаночность какая нужна! я вот два дня красил и понимаю, что это такое...
Луиджи - Март 31, 2023, 12:36 pmне приё.. Капитолину заменить токо в 6-м поколение будет возможно - там же многостаночность какая нужна! я вот два дня красил и понимаю, что это такое...
:o
Народ! Вы какие-то буйные... Капа уже как год почти ничего не пишет, на РА в том числе. Или я её случайно забанила и не вижу?
MV - Март 31, 2023, 02:59 amА кто ты думаешь генерирует ее 100500 постов в день? Или это в час?
Хде?
Пикси - Апр. 01, 2023, 12:42 amКапа уже как год почти ничего не пишет, на РА в том числе.
Наверное, настроения нет у неё.
Lor - Март 31, 2023, 10:17 amСудя по постам, она их сама пишет.
Да. Это если и ИИ, то не выше Пентиум-3 :)
Пикси - Апр. 01, 2023, 12:42 am:o
Народ! Вы какие-то буйные... Капа уже как год почти ничего не пишет, на РА в том числе. Или я её случайно забанила и не вижу?
Она на привет.фан.
ПС Мы ж шутя и любя. ))
MV - Апр. 01, 2023, 06:23 amОна на привет.фан.
ПС Мы ж шутя и любя. ))
Ааа, тогда другое дело.
)))
ЦитатаИскусственный интеллект может заместить 300 миллионов рабочих мест в развитых странах.
Успехи в развитии искусственного интеллекта могут привести к «серьезным потрясениям» на рынке труда и заместить около 300 миллионов рабочих мест с полной занятостью в развитых экономиках. Об этом говорится в прогнозе инвестиционного банка Goldman Sachs, который пересказывают CNN и Financial Times.
По оценке экспертов, 18% нынешней работы в мире может быть автоматизировано, при этом последствия будут сильнее ощущаться в странах с развитой экономикой (например, в США и Евросоюзе), чем на развивающихся рынках. С наибольшей угрозой в такой ситуации столкнутся белые воротнички -- административные работники, юристы и другие люди, которые не занимаются физическим трудом. Из отчета следует, что искусственный интеллект будет способен выполнять до 46% задач в административном секторе и до 44% -- в юриспруденции.
...
https://meduza.io/feature/2023/04/01/iskusstvennyy-intellekt-mozhet-zamestit-300-millionov-rabochih-mest-v-razvityh-stranah-on-spravitsya-s-polovinoy-zadach-v-yurisprudentsii-i-administrativnom-sektora
Поколение политкорректных лоботрясов ждут чудеса, однако.
Пикси - Апр. 01, 2023, 12:42 am:o
Народ! Вы какие-то буйные... Капа уже как год почти ничего не пишет, на РА в том числе. Или я её случайно забанила и не вижу?
во-первых, я страшно далеки от народа, а, во-вторых, при чем тут буйство?!
Один из основателей Microsoft Билл Гейтс заявил Reuters, что призывы приостановить разработку продвинутого искусственного интеллекта не «решат проблемы». Так он прокомментировал открытое письмо Илона Маска, Стива Возняка и других экспертов, предложивших приостановить развитие искусственного интеллекта на полгода.
По мнению Гейтса, технология искусственного интеллекта принесет пользу человечеству, поэтому он не считает, что нужно приостановаливать ее развитие. «Очевидно, что эта [технология] принесет много пользы... что нам нужно сделать, так это определить неоднозначные области», -- заявил бизнесмен.
Гейтс отметил, что не понимает, как можно приостановить развитие искусственного интеллекта, за которое выступают авторы открытого письма. «Я правда не понимаю, кто именно, по их мнению, может остановить развитие ИИ, согласятся ли на это все страны и зачем вообще это нужно делать», -- сказал он.
Да, в самом деле, зачем останавливать потенциальную 90% безработицу среди самых и так бурых членов общества до того как общество решит как дальше быть? What could go wrong?
Или гейц таки надееца что ковид 2.0 эффективно решит эти вопросы?
гейцам при почти любом раскладе ничего не грозит. но я тоже не понимаю, как можно засунуть джина обратно
Попробовал Windows 11 ... сижу ... думаю ... сейчас застрелиться или подождать, когда 7 и 10 окончательно работать не смогут?
Может до смерти получиться мне с 10-ой дотянуть?
P.S. На работе, местами ещё Win98 стоит, а уж XP так шуршит вообще отлично! И дело не в закостенелых старпёрах, а в том, что оборудование 20-ти летней давности работает надёжнее, чем современные "свистоперделки", что слеплены в Китае и напрогромированы в Индии.
Жена вчера приехала с работы, говорит, купили новую систему у французов, так уже два раза сбоила. А счёт у них на миллионы, если что-то "идёт не так". Фармацевтика.
Покупать технику у французов это примерно как покупать учебники по квантовой физике у папуасов. Французам можно доверять тока с духами, сыром и коньяком. И то уже про коньяк не уверен.
Интересное видео. Правда наивность людей умиляет. Мораль, религия, законы - это лишь обёртка для капитала. Деньги, как базовый источник удовлетворения человеческих потребностей, правили, правят и будут править миром всегда.
Пипец видео. А тут про какой то AI спорят.
Что там бульбафюрер кряхтит про "высокия тэхналогии"?
Из комментариев:
- Пипец, марка сплава зависит от настроения рабочего, каждый день уникальный состав.
- Всегда хотел узнать что значит "литье под давлением". Оказывается это сверху заливку побить кувалдой.
- Так вот как выглядят настоящие Беларусы.
- Капец! Батька-то хоть знает, как его трактора производятся?