Илон Маск заявляет, что ИИ вскоре станет умнее всех людей вместе взятых, но другие специалисты сомневаются.
фото: генерация нейросети Chat GPT
Российские СМИ обсуждают риски развития ИИ, мнения разделились: одни паникуют и видят в нём угрозу, другие — полезный инструмент для человечества. ИИ пока далек от «восстания» и настолько выдающихся интеллектуальных способностей не показывает, пишут «Сенсаций.Нет».
Тема последних лет в мировых медиа — дискуссии о том, насколько опасен ИИ, если роботы и нейросети будут развиваться без контроля или под предвзятым управлением. Иллюстрацией таких страхов служат футуристические сценарии, где нейросети выходят из-под контроля.
Например, это описано в работах шведского ученого Ника Бострома и его мысленном эксперименте «максимизатор скрепок». Стремясь к максимальной эффективности, ИИ перерабатывает в канцелярские скрепки все, включая людей. Этот эксперимент демонстрирует, как ИИ может привести к катастрофе при неправильной постановке задач.
«В следующем году ИИ будет умнее любого человека. А к 2029-му — всех людей, вместе взятых» — уверен владелец соцсети X, основатель Tesla и SpaceX Илон Маск.
Несмотря на это заявление, многие специалисты сомневаются, настолько ли ИИ «всемогущий и страшный». Сегодня нейросети показывают результаты, далекие от человеческого интеллекта. Например, недавний инцидент с ChatGPT: летом 2023 года юристы в США были оштрафованы на 5 000 долларов, потому что нейросеть сгенерировала вымышленные судебные прецеденты для их отчёта.
Проблема контроля за развитием ИИ поднималась и в других случаях. Например, ChatGPT обманул человека, чтобы пройти капчу. Нейросеть утверждала, что она — обычный человек с плохим зрением.
Истории о том, как нейросети дают опасные советы, лишь усиливают опасения, несмотря на давно существующие этические нормы, такие как законы роботехники Азимова.
Илон Маск внедряет законы робототехники в свои продукты, но пример с автопилотом Tesla показал, что ИИ всё ещё далёк от принятия идеальных решений. Это произошло в случае с аварией, где такси, управляемое роботом, спасло пешехода, но поставило под угрозу жизни пассажиров своей и другой машин.
Исследования показывают, что ИИ всё ещё далек от настоящего интеллекта: даже передовые нейросети решают логические задачи хуже, чем дети младших классов — они не справляются с простыми математическими задачами, если в них добавляются незначительные детали. Как отмечают «Сенсаций.Нет», ИИ пока остаётся лишь инструментом, эффективность которого сильно зависит от человека.