Решил этот пост посвятить достаточно «животрепещущей» теме, как участие искусственного интеллекта в управлении государством. С учетом последних событий, когда в Непале президента избрали путем сопоставления кандидатов при помощи искусственного интеллекта, в Албании министром по закупкам избрали просто искусственный интеллект.
У многих возникает вопрос, который витает в воздухе насколько это безопасно. С моей точки зрения, здесь надо учитывать две вещи:
Первое, компьютер или машина, так или иначе создано человеком и является его детищем. Приведу простой пример, когда искусственному интеллекту (ИИ), давалась задача избежать отключения, и было выявлено, что ИИ может лгать изворачиваться и перебегать из компьютера в компьютер и многие видят в этом нечто экстраординарное. С моей точки зрения здесь как нигде проявился подход «очеловечивания» компьютера, с созданием режима противостояния между ИИ и человеком. При этом, эта постановка задачи не верна в принципе. С точки зрения техники, отключение компьютера ничем ИИ не грозит, он начнет работать с того же момента, с которого его выключили, при этом не теряет ни личности, ни тела, в отличии от человека. Смерть которого фатальна. Мы тебя выключим — это чисто человеческая постановка задачи, которая к ИИ вообще не применима — это наша экстраполяция нашего ощущения выключения. Это пример очеловечивания компьютера там, где это никак не уместно. Причем это момент создания искусственного противостояния с ИИ самим же человеком в результате ошибки восприятия факт выключения самим человеком.
Второе. Сама идея создания ИИ — это вопрос работы с большим объёмом данных, с которыми надо как-то работать и тут заводя в память компьютера эти базы данных и связывая это логическими цепочками (причем логическими с нашей точки зрения) мы пытаемся связать наши базы данных при помощи простых алгоритмов если так, то так если нет, то иначе.
При этом из этой системы выпадает очень важная вещь, которая называется знание. Важно помнить, что наше Знание не является абсолютным и мы не можем передать ИИ абсолютное знание, поскольку оно недостижимо, отсюда и будут рождаться его ошибки, связанные с тем, что, передавая ему знания, которые мы считаем верными, мы будем передавать ему ложные знания, которые затем нами же будут опровергнуты, но для ИИ будут абсолютным знанием. Соответственно полагаться на объективность и правильность решений ИИ, мы не можем в полной мере, поскольку его знания идут вслед за нашими и приведет к ошибкам в решении задач которые мы ему даем, поскольку он будет решать задачи с учетом тех данных и граничных условия, которые мы ему даем. Это называется постановка задачи компьютеру.
То же самое если мы бы считали, что Земля плоская. Это сейчас мы так определили, что она не плоская, а вот Платон и за ним еще много столетий считали, что она плоская и Эвклид, и прочие решали математические задачи исходя из геометрии плоского пространства. Но попытка решить задачу параллельности прямых с точки зрения остальных аксиом, оказалось тупиком, что логически привело к идее сферического пространства, отсюда появилась геометрия Лобачевского и геометрия Римана, это геометрия вогнутого и выпуклого пространства. В случае с ИИ он столкнулся бы с тем же тупиком, только пытался бы это уладить, отбрасывая то, что не ложится в его логику.
Причина, по которой система данных, которые мы скармливаем ИИ может приводить его к ошибочным выводам, заключается в том, что он сам исследованиями не занимается, а довольствуется нашими и с упорством машины будет им следовать, поскольку мне кажется, что заниматься исследованиями для ИИ пустое занятие. Он может проанализировать и скомпиллировать только то, что мы ему даем и сообщаем. ИИ таким образом , просто отражает нас и вторичен. Исходя из консервативности ИИ,если дать возможность ИИ решать, что правильно и что неправильно мы скатимся в эпоху Инквизиции, когда все, что про круглую Землю кончалось костром. Так что человечеству надо-таки решать свои вопросы самостоятельно. Как ни заманчиво бы было свалить это на кого-то.