21:25 Должны ли правительства сдерживать разработки сверхинтеллектуального ИИ? |
|
Изобретение искусственного интеллекта было центральной темой в научной фантастике, по крайней мере, с 19-го века. От рассказа Э.М. Форстера «Остановка машин» (1909) до недавнего телесериала HBO «Западный мир» писатели склонны изображать эту возможность как безудержную катастрофу. Но этот вопрос больше не является выдумкой. Выдающиеся современные ученые и инженеры теперь также обеспокоены тем, что супер-ИИ однажды может превзойти человеческий интеллект и стать «худшей ошибкой» человечества. Нынешние тенденции говорят о том, что человечество собирается вступить в международную гонку вооружений за такую технологию. Какая бы высокотехнологичная компания или правительственная лаборатория не изобрела первый ИИ, она получит потенциально доминирующую в мире технологию. Поэтому для тех, кто хочет остановить такое событие, вопрос состоит в том, как воспрепятствовать гонке вооружений такого рода или, по крайней мере, побудить конкурирующие команды не пренебрегать безопасностью супер-ИИ. Как заметил философ Ник Бостром, искусственный интеллект ставит перед изобретателями две фундаментальные проблемы. Одной из них является проблема контроля, которая заключается в том, чтобы убедиться, что искусственный интеллект имеет те же цели, что и человечество. Без этого ИИ может намеренно, случайно или по небрежности уничтожить человечество. Вторая — это политическая проблема, которая заключается в гарантии, что преимущества новой технологии не распространятся только на элиту, а будут доступны всему человечеству. Если произойдет гонка вооружений ИИ, это может привести к тому, что конкурирующие группы проигнорируют эти проблемы, чтобы быстрее разработать свою технологию. Это может привести к появлению недружественного супер-ИИ. Одно из предлагаемых решений — использовать государственную политику, чтобы затруднить участие в гонке, уменьшить количество конкурирующих групп. Чем меньше соперников, тем меньше будет давления. Но как правительства могут уменьшить конкуренцию таким образом? В типичной гонке за новой технологией, будут участвовать только самые конкурентоспособные команды. Это потому, что вероятность изобрести супер-ИИ очень мала, а участие в гонке очень дорогое из-за больших инвестиций в исследования и разработки. Это говорит о том, что сокращение количества конкурирующих групп на данный момент не является самым важным приоритетом. Но даже при меньшем количестве участников в гонке, интенсивность соревнования может привести к проблемам, упомянутым выше. Таким образом, чтобы снизить интенсивность конкуренции между группами, стремящимися создать супер-ИИ и повысить свои возможности, правительства могут обратиться к государственным закупкам и налогам. Конечно, все это зависит от того, действительно ли супер-ИИ является угрозой человечеству. И некоторые ученые не думают, что это так. Естественно, мы могли бы со временем избавиться от рисков, связанных с его разработкой. Некоторые думают, что люди могут даже слиться с ИИ. Как бы то ни было, наша планета и ее обитатели получат огромную выгоду от того, что мы получим лучшее от ИИ, технологии, которая все еще находится в зачаточном состоянии. Для этого нам необходимо понять, какую роль может сыграть человечество. |
|
|
| Всего комментариев: 0 | |
По этой теме смотрите:
ВСЕ НОВОСТИ:
| Астрология, пророчества [1066] | Астрономия и космос [1457] | Безумный мир [2063] |
| Войны и конфликты [2310] | Гипотезы и версии [3874] | Дом,сад,кулинария [3946] |
| Животные и растения [2669] | Здоровье,психология [4749] | История и археология [4652] |
| Мир вокруг нас [2167] | Мировые новости [7583] | Наука и технологии [890] |
| Непознанное [4196] | НЛО,уфология [1263] | Общество [7796] |
| Прогнозы ученых,исследования [798] | Происшествия,чп,аварии [1302] | Российские новости [5860] |
| Стихия,экология,климат [2739] | Феномены и аномалии [945] | Фильмы и видео [6336] |
| Частное мнение [4913] | Это интересно! [3311] | Юмор,афоризмы,притчи [2394] |
АРХИВ САЙТА:
| Астрология и пророчества [778] | Гипотезы и прогнозы [4341] | Дом,сад,кулинария [72] |
| Животные и растения [2639] | Здоровье и красота [5416] | Интересности и юмор [3628] |
| История и археология [3574] | Космос, астрономия [1813] | Мир вокруг нас [1799] |
| Наука и технологии [1986] | Непознанное [3488] | НЛО,уфология [1736] |
| Общество, в мире, новости [7911] | Психология и отношения [42] | Стихия, климат, экология [84] |
| Фильмы и видео [122] | Частное мнения [44] | Эзотерика и феномены [1978] |