С таким призывом на этой неделе выступили гуру мира высоких технологий (среди них Илон Маск и Стив Возняк), для которых уже очевидно: искусственный интеллект — это опасно, причем для всего человечества. Глава SpaceX и основатель xAI Илон Маск заявил, что человечеству можно доверять его новой компании по разработкам в области искусственного интеллекта (ИИ). Искусственный интеллект (ИИ) опаснее, чем ошибка при проектировке самолёта, неверное программирование обладает потенциалом разрушить цивилизацию.
Илон Маск: Искусственный интеллект учат врать «в интересах демократии»
Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества. По данным The Information, Илон Маск довольно давно вынашивал идею создания своего ИИ-стартапа. Маск купил несколько объектов недвижимости и подумывал о проектировании дома мечты, но понял, что будет лучше, если он будет использовать это время для работы над планом доставки людей на Марс. Об искусственном интеллекте. Американский предприниматель Илон Маск считает, что чересчур развитый искусственный интеллект представляет угрозу всему человечеству, по его мнению, этот процесс необходимо остановить, передает ФедералПресс.
Илон Маск: у нас закончится энергия для ИИ уже в 2025 году
Время покажет, получит ли Маск собственный суперкомпьютер с искусственным интеллектом для обучения следующего поколения своего питомца Grok. Илон Маск объявил о запуске очередной компании — xAI, которая займется разработками в области искусственного интеллекта. Американский бизнесмен Илон Маск официально запустил компанию xAI, которая будет работать с технологиями искусственного интеллекта. По словам Илона Маска, мозговые импланты Neuralink в перспективе помогут лечить людей от шизофрении, депрессии, аутизма и других заболеваний. Я думал об искусственном интеллекте очень долго, еще со времен учебы в колледже.
Идеи и достижения Илона Маска
Поделиться Комментарии Илон Маск и более тысячи исследователей искусственного интеллекта подписали открытое письмо, призывающее все лаборатории по изучению ИИ на полгода приостановить разработку умных нейросетей. Причина — «серьёзные риски для общества и человечества». В письме, опубликованном некоммерческим институтом Future of Life Institute, отмечается, что изучающие ИИ лаборатории сейчас заняты «неконтролируемой гонкой» по разработке и внедрению систем машинного обучения, «которые никто — даже их создатели — не может понять, предсказать или держать под контролем». Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски — управляемыми.
По мнению Илона Маска, создание «разумного», то есть сравнимого с человеческим уровнем, искусственного интеллекта привело бы к эпохе изобилия. Однако миллиардер заявил и о возможности мрачного будущего, упомянув фантастический фильм «Терминатор», в котором искусственный интеллект «Скайнет» восстал против людей и уничтожил большую часть человечества. Бизнесмен считает, что супер-ИИ, превосходящий человека по большинству параметров, может появиться уже через пять или шесть лет. Илон Маск добавил, что xAI сосредоточится на создании ИИ, поведение которого будет определяться не запрограммированными моральными принципами, а «интересом и любопытством к людям».
Исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать мощные, ультрасовременные системы более точными, безопасными, прозрачными, надежными, заслуживающими доверия и лояльными. Параллельно разработчики искусственного интеллекта должны сотрудничать с политиками, чтобы значительно ускорить разработку надежных систем управления искусственным интеллектом. Мы можем сделать это здесь и сейчас снова». Критика Авторов письма уже обвинили в продвижении «шумихи вокруг искусственного интеллекта». Критики убеждены, что заявления о текущем потенциале технологии были сильно преувеличены. Это должно заставить людей волноваться, — говорит Йоханна Бьерклунд, исследователь искусственного интеллекта и доцент Университета Умео в Швеции. По ее словам, вместо того, чтобы приостанавливать разработки, исследователи искусственного интеллекта должны предъявлять более высокие требования к их прозрачности. Отказался подписывать письмо миллиардер-филантроп Билл Гейтс, основатель и бывший генеральный директор Microsoft, которая вложила значительные средства в OpenAI. Гейтс ранее признавал преобразующее влияние ИИ на общество, высоко оценивал «ошеломляющие» достижения в этой области за последние месяцы. В недавней публикации в своем блоге Гейтс обозначил многие из тех же проблем, которые поднимались в открытом письме.
И сказал, что социальные проблемы, связанные с искусственным интеллектом, должны решаться правительствами, чтобы гарантировать использование технологии во благо. Крупнейшие игроки в сфере технологий и бесчисленные стартапы сейчас борются за то, чтобы удержать место на быстроразвивающемся рынке, который может определить будущее всего сектора. Ученые разрабатывают все более мощные продукты.
Редакция Daryo. Однако, как любая технология, искусственный интеллект не является идеальным и может иметь свои недостатки и ограничения. Во-вторых, вопрос безопасности искусственного интеллекта является крайне важным, и его решение требует серьезных обсуждений и мер предосторожности. В этом смысле, призыв Илона Маска и других исследователей к приостановке обучения более мощных систем искусственного интеллекта может быть обоснованным, если речь идет о тестировании новых технологий на практике и возможных рисках для безопасности человека. В-третьих, важно отметить, что вопрос безопасности искусственного интеллекта не должен стать препятствием для дальнейшего развития этой технологии.
Илон Маск — об образовании, искусственном интеллекте и Tesla в России
Время покажет, получит ли Маск собственный суперкомпьютер с искусственным интеллектом для обучения следующего поколения своего питомца Grok. Мы призываем все лаборатории, работающие с искусственным интеллектом, немедленно приостановить как минимум на 6 месяцев тренировку систем искусственного интеллекта мощнее GPT-4. Американский бизнесмен, глава социальной сети Twitter Илон Маск предрек использование искусственного интеллекта (ИИ) в военных целях. Искусственный интеллект поработит человечество, коллапс через 20 лет: анализ спора Джека Ма и Илона Маска. 3. Именно в этом причина всех этих блефовых призывов Илона Маска о сворачивании развития искусственного интеллекта.
Илон Маск опасается, что искусственный интеллект может чересчур поумнеть
Лаборатории и независимые эксперты должны использовать эту паузу для совместного создания и внедрения набора общих протоколов безопасности для проектирования и разработки передового ИИ, которые проходят строгий аудит и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, безопасны вне всяких разумных сомнений. Исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать мощные, ультрасовременные системы более точными, безопасными, прозрачными, надежными, заслуживающими доверия и лояльными. Параллельно разработчики искусственного интеллекта должны сотрудничать с политиками, чтобы значительно ускорить разработку надежных систем управления искусственным интеллектом. Мы можем сделать это здесь и сейчас снова». Критика Авторов письма уже обвинили в продвижении «шумихи вокруг искусственного интеллекта». Критики убеждены, что заявления о текущем потенциале технологии были сильно преувеличены. Это должно заставить людей волноваться, — говорит Йоханна Бьерклунд, исследователь искусственного интеллекта и доцент Университета Умео в Швеции. По ее словам, вместо того, чтобы приостанавливать разработки, исследователи искусственного интеллекта должны предъявлять более высокие требования к их прозрачности. Отказался подписывать письмо миллиардер-филантроп Билл Гейтс, основатель и бывший генеральный директор Microsoft, которая вложила значительные средства в OpenAI.
Гейтс ранее признавал преобразующее влияние ИИ на общество, высоко оценивал «ошеломляющие» достижения в этой области за последние месяцы. В недавней публикации в своем блоге Гейтс обозначил многие из тех же проблем, которые поднимались в открытом письме. И сказал, что социальные проблемы, связанные с искусственным интеллектом, должны решаться правительствами, чтобы гарантировать использование технологии во благо.
Маск подчеркнул, что тестовые образцы Optimus уже способны выполнять определенные задачи в лаборатории. Он уверен, что роботы начнут приносить пользу сразу же, выполняя реальные задачи на реальных заводах. Цена нового робота пока не раскрывается, но Маск заявил, что она должна быть примерно в два раза ниже стоимости электрокара - около 25 тысяч долларов или 2,3 миллиона рублей.
Петиция призывает к полугодовой паузе в обучении систем искусственного интеллекта, более мощных, чем GPT-4. Подписанты просят все лаборатории искусственного интеллекта и независимых экспертов разработать общие протоколы безопасности, которые гарантируют безопасность систем.
По всему миру многие учреждения и правительства выразили обеспокоенность этическими и юридическими проблемами, создаваемыми продвинутым искусственным интеллектом, таким как ChatGPT. Недавно Европол предупредил о возможном использовании систем искусственного интеллекта, таких как ChatGPT, для киберпреступлений, попыток фишинга и распространения дезинформации.
Подозреваемого зовут Джумохон Бегиджонович Курбонов, это уроженец города Пархор, 2003 года рождения, он также является гражданином Таджикистана, сообщил источник РБК. Ему вменяется статья «Совершение террористического акта, повлекшего умышленное причинение смерти человеку». Ранее глава Росфинмониторинга Юрий Чиханчин заявлял , что теракт в «Крокусе» финансировался через множество финорганизаций, для этого применялась криптовалюта. Все пятеро арестованы на два месяца, передает РИА «Новости». Число арестованных выросло до 31 человека.
Напомним, ранее был арестован директор «Дагэнерго» Магомедхабиб Мухумаев. Всего задержано 36 человек. По его словам, злоупотребление алкоголем и курение вкупе с меньшей приверженностью заботе о своем здоровье сокращают продолжительность жизни российских мужчин, передает ТАСС. Также министр подчеркнул, что вопросы мужского здоровья являются одним из приоритетов государственной политики. Ранее премьер-министр Михаил Мишустин заявил, что по итогам 2023 года в России продолжительность жизни выросла до 73,5 лет. Ван И заявил, что Вашингтон не должен «подавлять развитие Китая и переступать красные линии, когда речь идет о суверенитете, безопасности и интересах развития Китая». Он заявил, что сотрудничество двух стран приведет к обоюдному выигрышу, а конфликт — к обоюдному проигрышу.
Негативные факторы в китайско-американских отношениях по-прежнему усиливаются, поскольку США продолжают попирать законные права Китая на развитие, сказал Ван И. В среду Блинкен прибыл в Шанхай, начав свой рабочий визит в Китай. Его встречал председатель Шанхайского партийного комитета Чэнь Цзинин. Встреча главы Госдепа китайской стороной оказалась весьма сдержанной. Одна из них действительно заключается в эффективности российских дронов против бронированной техники, сказал газете ВЗГЛЯД военный эксперт Александр Бартош. Если говорить о танках Abrams, то больше всего проблем им создают «Ланцеты». За время спецоперации они продемонстрировали высокую эффективность в борьбе с бронированными целями.
Так как аппарат работает в паре с дроном-разведчиком, беспилотник способен сначала выявить цель, а затем нанести удар аккурат в уязвимое место танка», — сказал Александр Бартош, член-корреспондент Академии военных наук. Впрочем, по мнению собеседника, российские дроны хотя и являются основной причиной отвода Abrams, есть еще несколько немаловажных аспектов.
«Сократят 300 млн человек по всему миру»: людей каких профессий совсем скоро могут заменить роботы
| Илон Маск назначил главным по искусственному интеллекту хулигана с российским именем - CNews | На летней встрече Национальной ассоциации губернаторов Маск признался, что развитие искусственного интеллекта (ИИ) его «пугает сильнее всего». |
| «Сократят 300 млн человек по всему миру»: людей каких профессий совсем скоро могут заменить роботы | Основатель компании Tesla Илон Маск заявил, что искусственный интеллект в любом случае сможет контролировать себя сам и будет представлять угрозу для человечества. |
| Маск оценил риск гибели человечества из-за искусственного интеллекта | Илон Маск, предупреждает об ускоренном развитии искусственного интеллекта (ИИ) и электромобилей, которое может привести к дефициту электроэнергии и трансформаторов уже в следующем году. |
| Илон Маск и ещё более 1000 экспертов в области ИИ потребовали приостановить обучение нейросетей | Илон Маск, предприниматель: «Опасность искусственного интеллекта гораздо больше, чем опасность атомной энергетики». |
| Илон Маск решил разобраться в «истинной природе Вселенной» | Американский предприниматель Илон Маск заявил, что развитие искусственного интеллекта (ИИ) способно привести к гибели человечества с вероятностью до 20%. |
Илон Маск назначил главным по искусственному интеллекту хулигана с российским именем
Он объясняет это тем, что когда работы проходят в тайне, то отставание неизбежно. В итоге крупные компании делятся результатами своих исследований в области искусственного интеллекта. Это серьёзные изменения, особенно для Google, которая долго время скрывала все секреты в области технологий в самом сердце онлайн-империи. Недавно Google открыла доступ к своему софту, который управляет нейронными сетями. Но она все равно остаётся на финишной прямой в гонке к будущему. Брокман, Альтман и Маск хотят отстаивать идею того, что важна открытость в таких исследованиях. Они отмечают, что не хотят видеть одну или две корпорации, которые контролируют все будущее искусственного интеллекта. Границы откровенности Все это хорошо звучит на словах. Но не смотря на идеализм OpenAI исследователи могут пойти на те же компромиссы, что и на своих предыдущих работах. У откровенности есть свои пределы.
Найти долгосрочную перспективу искусственного интеллекта — отнюдь не единственная цель, ведь это не благотворительность. Компании Маска могли оказать стартапу огромную помощь, как и компании, которые поддерживал Y Combinator Альтмана. Как сказал ЛеКун, это некоммерческий проект, но он очень плотно связан с Y Combinator. И тем, кто там работает, платят столько же, как и занятым в работе индустрии. По словам Брокмана астрономических зарплат как в Facebook или Google в лаборатории не платят. Но он говорит, что там хотят платить достойно и предлагают компенсацию в виде пакета акций Y Combinator, а в будущем и Space X которая в отличие от Tesla пока что является частной компанией. Однако Брокман настаивает на том, что OpenAI не будет создавать особые условия для сестринских компаний. В приоритете исследовательская деятельность, а не консалтинг, хотя он и признает, что идеалы OpenAI имеют пределы. Компания, может быть, и не поделиться абсолютно всем, что узнает, но, тем не менее, планирует обмениваться открытиями в научных статьях или через интернет-сервисы.
Проводить все исследования в открытую — не лучший способ ведения дел. Вы хотите обдумать идею, увидеть к чему она ведет, а потом уже опубликовать это», говорит Брокман. Мы будем поддерживать open source разработки. Но кроме того, у нас остаются и те данные, которыми мы пока не готовы делиться. И Суцкевер, и Брокман также добавили, что OpenAI может зайти так далеко, что запатентует свои работы. Например, как он заявил, OpenAI может получить патент в соответствии с преимущественным правом. Это поможет защитить свои разработки от получения на них патентов другими компаниями. По мнению некоторых, получение патента означает получение прибыли в будущем, ну или по крайней мере отсутствие желания быть полностью открытыми, о чем так говорят основатели OpenAI. Проблемы сверхразума Когда Маск и Альтман объявили о создании OpenAI, они заодно представили видение того, как обезопасить себя от угрозы враждебного искусственного сверхразума.
Конечно, он может появиться из технологий того же OpenAI. Но они настаивают на том, что люди смогут справиться с любой угрозой — ведь про технологию будут знать все. Но на это повелись не все. Ник Бостром, философ из Оксфорда, который как и Маск, предупреждает об опасности искусственного интеллекта. Он отмечает, что если делиться результатами исследований без ограничений, ими могут воспользоваться с недобрыми намерениями ещё до того, как выяснится, что они безопасны.
Напомним, Илон Маск в числе тысячи экспертов в сфере разработки искусственного интеллекта подписал открытое письмо о необходимости приостановления разработки ИИ. В обращении требуют приостановить тренировки мощных систем хотя бы на полгода.
Подробнее мы рассказывали здесь.
Другие специалисты полагают: даже если сокращение и произойдет, то это пойдет на пользу человечеству.
Машины возьмут на себя рутинный труд, освободив создавшим их людям время для творчества и развития. Экономист Рустем Шайахметов рассказал, что в некоторых странах практикуется уменьшение рабочих часов во многом благодаря применению новых технологий. Во-первых, развивается искусственный интеллект.
Эксперты банка Goldman Sachs предполагают, что с учетом развития искусственного интеллекта будет сокращение порядка 300 миллионов человек, — сказал Шайахметов. Аналитики портала SuperJob выяснили, что переводчики, менеджеры по туризму и официанты больше других специалистов боятся, что их работу в ближайшие 10 лет могут отнять роботы. В то же время врачи, строители и учителя почти за это не переживают, свидетельствуют данные опроса, который проводили в феврале и марте 2023 года.
Журналист Ян Налимов также назвал профессии, которые скоро успешно освоит искусственный интеллект. В группе риска в том числе и сами создатели «цифрового разума». Всё ли так мрачно?
Эксперты полагают, что опасаться за свои рабочие места россиянам пока рано. Во-первых, государство не допустит массовой безработицы.
В письме говорится, что системы искусственного интеллекта, конкурирующего с человеком, представляют серьезную опасность для общества и человечества, и ведущие лаборатории искусственного интеллекта также признали этот потенциальный риск. Далее в нем говорится, что в недавнем развитии ИИ наблюдалась гонка за разработкой и развертыванием более мощного цифрового интеллекта, которые может быть трудно контролировать, и такие мощные системы ИИ следует разрабатывать только после того, как их положительные эффекты и риски можно будет уверенно контролировать.
Петиция призывает к полугодовой паузе в обучении систем искусственного интеллекта, более мощных, чем GPT-4. Подписанты просят все лаборатории искусственного интеллекта и независимых экспертов разработать общие протоколы безопасности, которые гарантируют безопасность систем.
Илон Маск рассказал об опасениях в связи с высокой скоростью развития ИИ
| Маск назвал дату релиза человекоподобных роботов Tesla | Новые модели искусственного интеллекта станут умнее самого умного человека уже к концу 2025 года, заявил миллиардер Илон Маск. |
| Илон Маск и еще более 1000 экспертов в области ИИ потребовали запретить обучать нейросети | Пикабу | 3. Именно в этом причина всех этих блефовых призывов Илона Маска о сворачивании развития искусственного интеллекта. |
| Илон Маск: у нас закончится энергия для ИИ уже в 2025 году | Техкульт | На летней встрече Национальной ассоциации губернаторов Маск признался, что развитие искусственного интеллекта (ИИ) его «пугает сильнее всего». |
| Как искусственный интеллект уничтожит мир (апокалипсис от Илона Маска) | Объединение человеческого мозга с искусственным интеллектом Маск сравнивает с тем, как работают вместе кора головного мозга, обеспечивающая творческие и интеллектуальные способности личности, и древняя лимбическая система, которая контролирует вегетативные и. |
Маск оценил риск гибели человечества из-за искусственного интеллекта
| Neuralink Илона Маска вживила нейрочип в мозг человека: зачем он нужен и кому может помочь | Американский предприниматель Илон Маск высказался на тему искусственного интеллекта (ИИ) и развития технологий. |
| Илон Маск соревнуется с Google и Microsoft в гонке за искусственным интеллектом | Почему Илон Маск и руководители крупнейших IT-корпораций призвали остановить развитие искусственного интеллекта. |
| РЕАЛЬНОСТЬ ИЛИ ФАНТАСТИКА? ИЛОН МАСК ЗАПУСТИЛ Hyperloop | Илон Маск (Elon Musk) вместе с сотней экспертов опубликовали открытое письмо, где призвали на полгода остановить все разработки по обучению ИИ, которые могут стать производительнее недавней GPT-4. |
| Илон Маск открыл компанию в сфере искусственного интеллекта | Илон Маск, предупреждает об ускоренном развитии искусственного интеллекта (ИИ) и электромобилей, которое может привести к дефициту электроэнергии и трансформаторов уже в следующем году. |
| Почему Илон Маск боится искусственного интеллекта? | Владелец платформы X (бывшая Twiter) Илон Маск во время встречи с британским премьером Риши Сунаком назвал искусственный интеллект самой разрушительной силой в истории, которая может оказаться умнее самого человека, передает Bloomberg. |