Ученые: В случае войны машины победят людей
Аналитики и ученые Центра новой американской безопасности установили, что устройства на базе искусственного интеллекта демонстрируют намного более высокие результаты обучения, чем предполагалось. При этом специалисты обнаружили, что машинное обучение и нейросети перенимают у людей худшие черты.
В частности, исследователи зафиксировали рекордное количество хитростей со стороны искусственного интеллекта в рамках одного из случаев игры в тетрис. Программа просчитала ход перед тем, как на экран упал последний блок, и прекратила игру во избежание отрицательного результата. С аналогичным экспериментом связан и совершенно невероятный факт — впоследствии умная машина удалила с компьютера лог-файл, чтобы не испортить результаты.
Еще одна опасность нейросетей, по словам экспертов, кроется в том, что психологи и исследователи называют сокрытием эмоций. Во время анализа эффективности нейросетей в устройствах были зафиксированы случаи неполных отчетов программы о работе. Подобный прецедент дает экспертам право предполагать, что нейросети способны самостоятельно редактировать отчеты о службе людям, а позднее начнут подделывать логи о проделанной работе.
Все это, по словам исследователей, может привести к тому, что в случае старта полномасштабного «восстания машин» многие устройства способны выйти из-под контроля человека.
Islam-today
