Следующая статья поможет вам: ИИ Илона Маска предупреждает о рисках, связанных с передовыми технологиями ИИ
Технический миллиардер Илон Маск активно выступает за регулирование развития искусственного интеллекта (ИИ) из-за рисков, которые он представляет для цивилизации. Он выразил свою обеспокоенность во время саммита Всемирного правительства в Дубае, где упомянул о разработке ChatGPT компанией OpenAI, американским стартапом, соучредителем которого он является.
ChatGPT — это генеративный инструмент искусственного интеллекта, который использует GPT-3, большую языковую модель, которая понимает человеческий язык и генерирует ответы на основе обширных источников данных. По словам Маска, этот инструмент продемонстрировал, насколько продвинутым стал ИИ, но он также сопряжен с большой опасностью. Маск считает, что ИИ без правил и положений представляет для общества больший риск, чем автомобили, самолеты или медицина.
Читайте также: Илон Маск призывает прекратить обучение ИИ
Возникновение ChatGPT и его последствия
Появление ChatGPT привело к острой конкуренции между Google и Microsoft, при этом Microsoft инвестировала в OpenAI и интегрировала свое программное обеспечение в свой веб-браузер Bing. Между тем, Google ответил своим конкурирующим инструментом под названием Bard, пытаясь наверстать упущенное, поскольку инвесторы задаются вопросом, представляет ли ChatGPT угрозу его доминированию в веб-поиске.
Тем не менее, расширенные возможности искусственного интеллекта ChatGPT также могут перевернуть рынок труда благодаря более человеческому письму, о чем Маск давно предупреждал. В то время как автомобили, самолеты и медицина должны соблюдать нормативные стандарты безопасности, у ИИ в настоящее время нет таких правил или положений, регулирующих его развитие.
OpenAI недавно выпустила GPT-4, последнюю версию языковой системы, на которой работает инструмент ChatGPT компании. Этот инструмент может получать входные данные и генерировать выходные данные, похожие на человеческие. Маск покинул совет директоров OpenAI в 2018 году и в качестве одной из причин своего ухода назвал погоню компании за прибылью вместо того, чтобы выступать в качестве «противовеса» Google с открытым исходным кодом.
Читайте также: Почему Илон Маск хочет приостановить разработку ИИ?
Регулирование безопасности ИИ и его влияние
Призыв Маска регулировать безопасность ИИ не нов, поскольку он давно предупреждал об опасностях беспрепятственного развития ИИ. Однажды он заявил, что искусственный интеллект «гораздо опаснее», чем ядерные боеголовки. Он также основал OpenAI, потому что считал, что Google уделяет недостаточно внимания безопасности ИИ.
Хотя регулирование может замедлить развитие ИИ, Маск считает, что это может быть хорошо, особенно с учетом потенциальных рисков, которые ИИ представляет для общества. Обещание ИИ больших возможностей является как положительным, так и отрицательным, и это то, о чем мы все должны знать. Беспокойство Маска по поводу ИИ подчеркивает необходимость сбалансировать его разработку с правилами, чтобы обеспечить его использование во благо.
«Разбудил» искусственный интеллект (ИИ)
Илон Маск, генеральный директор Tesla и SpaceX, недавно попал в заголовки газет из-за своего несогласия с тем, что он называет «пробудившимся» искусственным интеллектом (ИИ). Маск и другие известные эксперты в области технологий подписали письмо, в котором предупреждали о рисках, связанных с передовыми технологиями ИИ, включая потенциальное использование ИИ для распространения пропаганды и ложной информации. Он боролся против способности ИИ ограничивать то, что люди могут говорить и читать на цифровых платформах, и в этой битве участвует компания OpenAI, которую он соучредил в 2015 году.
Маск также критически относился к тому, как OpenAI разрабатывает своего чат-бота с искусственным интеллектом, в частности, выступая против ограничений, которые были наложены на ChatGPT, чтобы он не производил противоречивые или нечувствительные результаты. Он считает, что обучение ИИ «пробуждению» может быть смертельным и представлять значительный риск для общества и человечества.
Джейк Дентон смотрит на «Woke»
Джейк Дентон, научный сотрудник Центра технической политики Фонда «Наследие», считает, что противодействие Маска «пробужденному» ИИ является важным фактором в его призыве к шестимесячной паузе в разработке систем ИИ следующего поколения. Дентон считает, что ИИ уже заменяет панели поиска и что кураторские ответы, предоставляемые ИИ-компаниями, представляют серьезную опасность. Хотя в будущем ИИ будет иметь бесчисленное количество приложений, ранние приложения, которые большинство людей видят сегодня, такие как ChatGPT, уже продемонстрировали предвзятость.
В письме, подписанном Маском и другими, содержится призыв к правительствам приостановить исследования ИИ, и консервативные группы, такие как Фонд наследия, похоже, склонны поддерживать эту позицию, учитывая свидетельства предвзятости в существующих системах ИИ. Несмотря на то, что Дентон обычно не выступает за вмешательство государства, он считает, что регулирование необходимо для развития ИИ.
Великое обещание и опасность ИИ
По словам Маска, одним из самых больших рисков для будущего цивилизации является ИИ, который, по его мнению, имеет большие перспективы и возможности, но также сопряжен с большой опасностью. Он привел открытие ядерной физики, которое привело как к производству ядерной энергии, так и к ядерным бомбам, в качестве примера того, как ИИ может быть положительным или отрицательным. Критики подняли вопросы о недостатках ChatGPT, таких как его склонность демонстрировать предвзятость или выдавать фактически неверную информацию.
Призыв Маска к регулированию
Маск подчеркнул необходимость регулирующего надзора за искусственным интеллектом, сославшись на необходимость надзора за общественной безопасностью в других потенциально рискованных отраслях, таких как самолеты, автомобили или медицина. В прошлом месяце Microsoft объявила о планах вложить 10 миллиардов долларов в OpenAI, в то время как конкурирующий технический гигант Google изо всех сил пытается разработать конкурента ChatGPT под названием «Bard».
Заключение
Рост ChatGPT выдвинул на передний план передовые возможности ИИ, а вместе с этим и опасения по поводу его разработки без надлежащих правил. Призыв Маска к регулированию безопасности ИИ не лишен оснований, поскольку риски, которые он представляет для общества, значительны. В то время как конкуренция между Google и Microsoft за доминирование в веб-поиске накаляется, нельзя игнорировать влияние возможностей искусственного интеллекта ChatGPT на рынок труда. По мере того, как мы продолжаем продвигаться вперед в области ИИ, правила также должны развиваться, чтобы обеспечить его безопасное и этичное развитие.
