Таблица: естественный интеллект и нейросеть — 6 различий
Таблица: естественный интеллект и нейросеть по шести признакам. Как объяснить обучение, память и ошибки на устном ответе и не застрять в споре, кто умнее.
Андрей
Преподаватель, научный редактор
7 мин чтения
«Тогда у машины вообще нет минусов?» Вика показала тетрадь: у человека усталость и забывчивость, у компьютера скорость и точность. Таблица выглядела убедительно. Объяснить её было нечем. Мы сравнивали естественный интеллект и нейросеть, а незаметно получили соревнование человека с калькулятором. Я предложил убрать оценки и оставить признаки, по которым можно задать один и тот же вопрос обеим колонкам.
Первой зачеркнули «не ошибается». Вика возразила: программа ведь считает лучше неё. Согласен, конкретный расчёт можно доверить подходящей программе. Но мы обсуждали искусственную нейросеть, а не любую программу вообще. С этого маленького уточнения и началось нормальное сравнение.
Первые минуты: одинаковые числа на доске
На доске было простое продолжение числового ряда. Правильное число назвали сразу несколько человек. Один заметил закономерность, другой слышал похожее задание. По одному числу я не мог различить их способы.
С нейросетью похожая педагогическая ловушка: удачный ответ легко принять за доказательство всего, что хочется приписать системе. Я попробовал изменить вопрос. Вместо «понимает или не понимает?» предложил посмотреть, что произойдёт после изменения условия.
Для проверки выбрали три вопроса:
Может ли отвечающий объяснить связь между условием и выводом?
Сохраняется ли способ решения после изменения одного существенного признака?
Есть ли способ проверить результат отдельно от объяснения?
Это полезные наблюдения. Но они не превращаются в доказательство одинакового устройства человека и вычислительной системы. На устном ответе я прошу разделять два утверждения: «выполнил задание» и «работает так же, как человек».
Здесь легко уйти в обратную крайность: написать, что нейросеть только хранит готовые фразы. Такое описание не объясняет её способности находить закономерности и отвечать на новые сочетания условий. В нашей таблице для этого оставлена строка о переносе. Ей полезнее уделить внимание, чем спорить о громком слове без определения.
Середина урока: две дороги домой
Следом я предложил сравнить две дороги домой. По первой идти быстрее. На второй вечером лучше видно переход. Если сравнивать только минуты, первая победит ещё до обсуждения. Если задать другое существенное условие, выбор может измениться.
Так Вика нашла слабое место своей первой таблицы. Она заранее решила, что важнее всего скорость, а потом записала результат выбора как общее свойство интеллекта. Я сделал рядом пометку: сначала критерий, затем вывод.
Человеку тоже можно дать неполное условие. Он способен уточнить его, но способен и уверенно догадаться. Нейросеть может предложить правдоподобное решение без нужной подробности. Поэтому в строке об ошибках мы не оставили удобное деление на «человек ошибается, машина точна».
В задаче с маршрутом полезная правка запроса выглядит так: «До выбора перечисли сведения, без которых нельзя оценить безопасность перехода». Это предложенный способ поставить вопрос. Сам маршрут и фактические условия улицы человек проверяет отдельно.
В моей таблице написано: «Человек ошибается, нейросеть объективна». Помоги проверить это утверждение. Задай вопрос о критерии сравнения, затем предложи более точную строку без выбора победителя. Не обсуждай сознание и не приписывай системе человеческие переживания.
Цель такой просьбы — получить предмет для обсуждения. Принимать формулировку всё равно нужно по смыслу, а не потому, что она стала длиннее.
Вика спросила: «Если после уточнения чат предложит другую дорогу, значит, он научился?» Я предложил пока оставить слово «научился» на полях и разобраться с самим уточнением.
При обучении искусственной нейросети подбирают параметры, чтобы она лучше решала определённые задачи на данных. Уточнение в текущем разговоре — другая ситуация: система получила дополнительные сведения для ответа. Из самого факта уточнения нельзя заключить, что её заново обучили и теперь изменение будет действовать во всех будущих разговорах.
Разница пригодилась сразу. В задании про маршрут до школы мы сначала указали только время пути, затем добавили освещение улицы. Изменилось условие выбора. Чтобы учесть его в новом разговоре, нужное требование следует сообщить снова, если нет подтверждения, что оно уже доступно в контексте.
Если Вика хочет сопоставить две версии своего объяснения в LibraChat, ей удобно обсуждать их в прежней переписке: там уже есть первоначальный критерий и уточнение про освещение. Несколько разговоров об одном докладе можно объединить проектом. Но на уроке сначала нужно объяснить разницу между обучением и сведениями для отдельного задания. Устройство конкретного приложения изучим после этого.
У доски: таблица «естественный интеллект и нейросеть»
К концу обсуждения я собрал наши наблюдения вокруг шести вопросов. Под естественным интеллектом здесь понимаем человеческие способности учиться и решать задачи. Под нейросетью — искусственную вычислительную систему. Уточнение необходимо: в биологии тоже говорят о сетях нервных клеток. Если не определить предмет, можно спорить весь урок, имея в виду разные вещи.
Вопрос · Естественный интеллект человека · Искусственная нейросеть
На какой основе работает? — Живой мозг во взаимодействии с телом и окружающей средой — Вычисления с параметрами, подобранными при обучении
На чём учится? — На наблюдениях, действиях, объяснениях и собственном опыте — На данных и заданиях, предусмотренных способом обучения
Как справляется с новым условием? — Применяет знания и жизненный опыт; может неверно оценить ситуацию — Использует изученные закономерности; качество переноса требует проверки
Что называем памятью? — Воспоминания и знания человека, которые бывают неточными — Параметры обучения; отдельно может быть доступен контекст разговора или внешние сведения
Откуда берутся ошибки? — Из неполных знаний, невнимательности или неверного рассуждения — Из недостатка сведений и неподходящего обобщения, а также условий поставленной задачи
Как проверить результат? — Сопоставить его с наблюдением, расчётом или надёжным источником — Выбрать проверку по самой задаче; уверенность формулировки ничего не доказывает
Я проверил строки одним приёмом: закрывал правую колонку и читал вопрос вслух. Если ответ слева говорил об эмоциях, а справа о скорости вычислений, строка разваливалась. Мы отвечали на разные вопросы. Красивое расположение слов этого не исправляет.
У такой таблицы нет строки «кто умнее». Для неё пришлось бы сначала выбрать задачу и способ оценки. Узнать знакомую улицу, вычислить длинную сумму и утешить друга — разные задания. Одной общей отметки им не хватит.
Перед звонком: две минуты без тетради
На подготовку короткого объяснения я дал 2 минуты. Выучить все клетки за это время трудно. Выбрать одну строку и показать, как она работает, вполне можно.
Вика выбрала память. Сначала хотела сказать: «Оба хранят информацию». Потом вспомнила, как мы возвращали освещение улицы в условие. Стало ясно, почему одинаковое бытовое слово ещё не означает одинаковую организацию памяти.
Попробуй её порядок:
Назови один признак и объясни, что именно сравниваешь.
Перескажи обе клетки без слов из таблицы.
Приведи ситуацию, где различие меняет действие.
Укажи, какого вывода из этой ситуации делать нельзя.
Если на втором шаге всё рассыпалось, сокращай строку. Не добавляй новые определения для солидности. В материале о сути нейросети можно восстановить базовые понятия и вернуться к одному вопросу.
Для обсуждения одного спорного утверждения не обязательно начинать с большого файла. Состав режимов и работы с документами посмотри в условиях LibraChat, если решишь разбирать целую учебную работу.
В конце Вика всё-таки спросила, где поставить человека выше машины. Я предложил вместо отметки выбрать задачу, которую она теперь умеет объяснять. Она закрыла тетрадь и рассказала про маршрут. На этот раз сравнение получилось без таблицы перед глазами.
