Поделиться статьей в социальных сетях:
Ссылка на оригинал: Stanford Encyclopedia of Philosophy
Впервые опубликовано 26 октября года; содержательно переработано 14 декабря года.
Философия информации занимается философским анализом понятия информации как с исторической, так и с систематической точек зрения. С появлением эмпирической теории познания в философии раннего Нового времени, с развитием различных математических теорий информации в XX веке, а также с развитием информационных технологий концепция «информации» заняла центральное место в лоне естественных наук и общественной жизни. Помимо прочего, этот интерес привел к появлению отдельной ветви философии, которая анализирует информацию во всех ее проявлениях (Adriaans and van Benthem a, b; Lenski ; Floridi , ). Информация стала центральной категорией как в естественных, так и в гуманитарных науках, и размышления на ее счет влияют на широкий круг философских дисциплин: от логики (Dretske ; van Benthem en van Rooij ; van Benthem ) и эпистемологии (Simondon ) до этики (Floridi ), от эстетики (Schmidhuber a; Adriaans ) до онтологии (Zuse ; Wheeler ; Schmidhuber b; Wolfram ; Hutter ).
Не существует единого мнения о точной природе философии информации как области. Некоторые авторы предлагали более или менее последовательные философии информации как попытки переосмыслить философию с новых точек зрения: с таких, например, как квантовая физика (Mugur-Schächter ), логика (Brenner ), семантическая информация (Floridi ; Adams & de Moraes ), коммуникация и системы сообщений (Capurro & Holgate ) и метафилософия (Wu , ). Другие авторы (Adriaans & van Benthem a; Lenski ) видят в ней, скорее, техническую дисциплину с глубокими корнями в истории философии, а также следствиями, важными для других различных дисциплин, таких как методология, эпистемология и этика. Какова бы ни была интерпретация природы философии информации, по-видимому, она предполагает амбициозную исследовательскую программу, состоящую из множества подпроектов. Последние варьируются от переосмысления истории философии в контексте современных теорий информации до глубинного анализа роли информации в естественных и гуманитарных науках, а также в обществе в целом.
В настоящее время термин «информация» в разговорной речи используется преимущественно как абстрактное массовое существительное и обозначает любое количество данных, кода или текста, которые хранятся, отправляются, принимаются и которые обрабатываются на любом носителе. Подробная история как самого термина «информация», так и различных связанных с ним понятий, является сложной, и по большей части ее еще предстоит написать (Seiffert ; Schnelle ; Capurro , ; Capurro and Hjørland ). Точное значение термина «информация» варьируется в разных философских традициях, а его разговорное использование варьируется в зависимости от географии и от прагматики контекстов. Хотя анализ того, что понимается под «информацией», велся в русле западной философии с самого ее начала, эксплицитный анализ информации как философской концепции относительно недавний и датируется второй половиной ХХ века.
На сегодняшний день очевидно, что информация является ключевым понятием в естественных и гуманитарных науках, а также в нашей повседневной жизни. Все, что мы знаем о мире, основано на информации, которую мы получили или собрали, равно как и любая наука в принципе имеет дело с информацией.
Существует сеть взаимосвязанных концепций информации, корни которых уходят в такие дисциплины, как физика, математика, логика, биология, экономика и эпистемология. Все эти локальные понятия группируются вокруг двух основных свойств:
Информация экстенсивна. Центральным для понимания этой идеи является понятие аддитивности: сочетание двух независимых наборов данных с равным количеством информации содержит вдвое больше информации, чем каждый из наборов данных по отдельности. Понятие экстенсивности естественным образом возникает в наших взаимодействиях с окружающим миром, когда мы подсчитываем и измеряем объекты и структуры. Основные концепции более абстрактных математических сущностей — таких, как множества, мультимножества и последовательности, — исторически были разработаны ранее, на основе структурных правил манипулирования символами (Schmandt-Besserat ). Математическая формализация экстенсивности при помощи логарифмической функции произошла в контексте исследований в области термодинамики в XIX веке (Больцман ) и в начале XX века (Гиббс ). При кодировании посредством более совершенных систем многомерных чисел (комплексных чисел, кватернионов, октонионов) концепция экстенсивности обобщается до более утонченных понятий аддитивности, которые перестают соответствовать нашей повседневной интуиции. Тем не менее они играют важную роль в последних разработках в теории информации, основанных на квантовой физике (фон Нейман ; Redei & Stöltzner ).
Информация уменьшает неопределенность. Количество получаемой нами информации линейно растет с величиной, на которую она уменьшает нашу неопределенность — вплоть до того момента, когда мы получили всю возможную информацию и количество неопределенности стало равно нулю. Связь между неопределенностью и информацией, вероятно, была впервые сформулирована философами-эмпириками (Локк ; Юм ). Юм явно отмечает, что выбор из большего числа возможностей дает больше информации. Это наблюдение достигло своей канонической математической формулировки в функции, предложенной Хартли (): она определяет объем получаемой нами информации, когда мы выбираем элемент из конечного множества. Единственной математической функцией, объединяющей эти две интуиции об экстенсивности и вероятности, является та, которая определяет информацию в терминах отрицательного логарифма вероятности: $I(A)= -\log P(A)$ (Shannon ; Shannon & Weaver ).
Впрочем, элегантность этой формулы не защищает нас от концептуальных проблем, которые она в себе таит. В ХХ веке были предложены различные варианты того, как формализовать понятие информации:
Качественные теории информации
- Семантическая информация: Бар-Хиллел и Карнап разработали теорию семантической информации (Bar-Hillel and Carnap ). Флориди (Floridi , , ) определяет семантическую информацию как правильно сформированные, значимые и истинные данные. Формальные определения информации на основе энтропии (Фишер, Шеннон, квантовая, колмогоровская) работают на более общем уровне и необязательно измеряют информацию в значимых и достоверных наборах данных, — хотя можно отстаивать мнение, что для обеспечения измеримости данные должны быть правильно сформированы (см. обсуждение в разделе , посвященном логике и семантической информации). Семантическая информация по сути близка нашему повседневному наивному представлению об информации как о чем-то, что передается истинными утверждениями о мире.
- Информация как состояние агента: формальная логическая трактовка таких понятий, как знание и вера, была инициирована Хинтиккой (Hintikka , ). Дретцке (Dretske ) и ван Бентем вместе с ван Руджи (van Benthem & van Rooij ) изучали эти понятия в контексте теории информации (см. van Rooij о вопросах и ответах или Parikh & Ramanujam о неспециализированных сообщениях). Также, по-видимому, Данн имеет в виду схожие соображения, когда определяет информацию как «то, что остается от знания, когда отнимают веру, оправдание и истину» (Dunn ; Dunn ). Виго предложил структурно-чувствительную теорию информации, основанную на сложности в овладении агентом тем или иным понятием (Vigo , ).
Количественные теории информации
- Функция Найквиста: Найквист (Nyquist ), вероятно, был первым, кто выразил количество «сведений», которое может быть передано при определенной скорости линии телеграфных систем, посредством логарифмической функции: $W= k \log m$, где $W$ — скорость передачи, $k$ является константой, а $m$ — это различные уровни напряжения, из которых мы выбираем.
- Информация по Фишеру: количество информации, которую наблюдаемая случайная переменная $X$ несет о неизвестном параметре $θ$, от которого зависит вероятность сакмой $X$ (Fisher, ).
- Функция Хартли: (Хартли , Rényi , Vigo ). Когда мы выбираем элемент из конечного множества $S$ при равномерном распределении, количество получаемой нами информации равняется логарифму мощности данного множества.
- Информация по Шеннону: энтропия, $H$, дискретной случайной переменной $X$ является мерой количества неопределенности, связанной со значением $X$ (Shannon ; Shannon & Weaver, ).
- Колмогоровская сложность: информацией, заключенной в двоичной строке $x$, является длина самой короткой программы p, способной произвести $x$ на исходной универсальной машине Тьюринга $U$ (Turing ; Solomonoff , a,b, ; Колмогоров ; Chaitin , ).
- Меры энтропии в физике: хотя они не во всех случаях строго соответствуют мерам информации, различные определенные в физике понятия энтропии тесно связаны с соответствующими понятиями информации. Мы упоминаем энтропию Больцмана (Больцман ), тесно связанную с функцией Хартли (Хартли ), а также энтропию Гиббса (Гиббс ), формально эквивалентную энтропии Шеннона и различным обобщениям, — таким, как энтропия Цаллиса (Tsallis ) и энтропия Реньи (Rényi, ).
До недавнего времени возможность объединения этих теорий скорее ставилась под сомнение (Adriaans & van Benthem a), но после двух десятилетий исследований перспективы объединения выглядят более реалистичными.
Контуры единой концепции информации просматриваются в следующих направлениях:
- Философия информации — это подразделение философии, тесно связанная с философиями логики и математики. Философия семантической информации (Floridi , D’Alfonso , Adams & de Moraes, ), в свою очередь, является подразделением философии информации (см. «карту информации» в статье Семантические концепции информации).С этой точки зрения философия информации питает интерес к изучению своего предмета на самом общем уровне: данные вообще, правильно сформированные данные, данные об окружающей среде и т.д. Философия семантической информации добавляет измерения значения и истинности. Существует возможность интерпретировать количественные теории информации в рамках философии семантической информации (см. более детальное обсуждение в разделе ).
- Различные количественные понятия информации связаны с различными нарративами (подсчет, получение сообщений, сбор информации, вычисления), укорененными в одной и той же базовой математической структуре. Многие проблемы философии информации центрированы вокруг сопряженных проблем в философии математики. Были изучены преобразования и редукции между различными формальными моделями (Cover & Thomas ; Grünwald & Vitányi ; Bais & Farmer ). Возникающая ситуация, судя по всему, мало чем отличается от сложившейся вокруг концепции энергии: существуют различные формальные подтеории касательно энергии (кинетическая, потенциальная, электрическая, химическая, ядерная) с четко определенными преобразованиями между ними. Кроме того, термин «энергия» свободно используется в разговорной речи.
- Основанные на агентности понятия информации естественным образом возникают, когда наш интерес расширяется от простого измерения и манипулирования символами до более сложной парадигмы агента со знаниями, убеждениями, намерениями и свободой выбора. Такие агентностные понятия связаны с развертыванием других концепций информации.
Возникновение согласованной теории количественного измерения информации в ХХ в. тесно связано с развитием теории вычислений. Центральное место в контексте последней занимают понятия Универсальности, Эквивалентность по Тьюрингу и Инвариантности: поскольку концепция системы Тьюринга определяет понятие универсального программируемого компьютера, по-видимому, все универсальные модели вычислений имеют одинаковую мощность. Сказанное подразумевает, что любые возможные меры информации, определяемые для универсальных моделей вычислений (рекурсивные функции, машина Тьюринга, лямбда-исчисление и т.д.), асимптотически инвариантны. Это дает представление о единой теории информации, которая может оказаться господствующей исследовательской программой в ближайшие годы.
Отсутствие точности и универсальная полезность термина «информация» идут рука об руку. В нашем обществе, где мы исследуем реальность с помощью приборов и установок все возрастающей сложности (телескопы, циклотроны) и общаемся с помощью все более развитых средств массовой информации (газеты, радио, телевидение, SMS, Интернет), полезно иметь абстрактное массовое существительное для «материала», который создается инструментами и который «течет» через эти средства. Исторически это общее значение появилось довольно поздно и, по всей видимости, связано с ростом средств массовой информации и спецслужб (Devlin & Rosenberg ; Adriaans and van Benthem b).
В современной разговорной речи термин «информация» используется различными способами, во многих из которых он нечетко определен, а другие определения оказываются противоречивыми. Например, большинство людей рассмотрят следующий вывод как prima facie допустимый:
Если я получу информацию, что p, тогда я знаю, что р.
У тех же людей, вероятно, не возникнет проблем с утверждением «секретные службы иногда распространяют ложную информацию» или с предложением «информация, предоставленная свидетелями аварии, была расплывчатой и противоречивой». Первое утверждение подразумевает, что информация обязательно является правдой, в то время как другие утверждения допускают возможность того, что информация является ложной, противоречивой и расплывчатой.
В повседневном общении эти несоответствия не создают больших проблем, так как в целом из прагматического контекста ясно, какой тип информации обозначается. Этих примеров достаточно для утверждения, что ссылки на нашу интуицию мало помогают в разработке строгой философской теории информации.
Судя по всему, в повседневном общении нет прагматического давления, принуждавшего бы стороны коммуникации сходиться к более точному определению понятия информации.
До второй половины XX века практически ни один современный философ не считал «информацию» важной философской концепцией. Термин не имеет словарной формы в известной энциклопедии Эдвардса (Edwards ) и не упоминается у Виндельбанда (Windelband ). В этом контексте интерес к «философии информации» возник недавно. И все же, оглядываясь назад из перспективы истории идей, мы понимаем, что размышления о понятии «информация» были преобладающей темой в истории философии. Реконструкция этой истории актуальна для изучения информации.
Проблема с любым подходом в жанре «истории идей» заключается в подтверждении основополагающего предположения, что изучаемая концепция действительно имеет преемственность в истории философии. В случае исторического анализа информации можно задаться вопросом, имеет ли понятие informatio, обсуждавшееся Августином, какое-либо отношение к информации Шеннона, кроме сходства терминов. В то же время можно задаться вопросом, является ли Локка важным вкладом в появление современной концепции информации — при том, что в своих работах Локк почти не использует термин «информация» в узкоспециальном смысле. Как показано ниже, вокруг понятия информации существует конгломерат идей, которые развивались с древности до недавних времен, однако необходимо дальнейшее изучение истории понятия информации.
Классическая философия
В классической философии «информация» была узкоспециальным понятием, связанным с теорией познания и онтологией, которая возникла из теории форм Платона (– гг. до н.э.), развитой в ряде его диалогов («Федон», «Федр», «Пир», «Тимей», «Государство»). Различные несовершенные индивидуальные лошади в физическом мире могут быть идентифицированы как лошади потому, что они причастны статической, вневременной и внепространственной идее «лошадиности» в мире идей или форм. Когда более поздние авторы, — такие как Цицерон (–43 гг. до н.э.) и Августин (– гг. н.э.) — обсуждали понятия Платона на латыни, они использовали термины informare и informatio для перевода таких узкоспециальных греческих терминов, как eidos (сущность), idea (идея), typos (тип), morphе (форма) и prolepsis (представление). Корень «форма» все еще узнаваем в слове ин-форм-ация (Capurro and Hjørland ). Теория форм Платона была попыткой сформулировать решение различных философских проблем: она занимает промежуточное положение между статической (Парменид, ок. г. до н.э.) и динамической (Гераклит, ок. – гг. до н.э.) онтологическими концепциями реальности и предлагает модель для изучения теории человеческого знания. Согласно Теофрасту (– гг. до н.э.), аналогия с восковой табличкой восходит к Демокриту (около – / г. до н.э.) («О чувствах»50). В «Теэтете» (c, d) Платон сравнивает функционирование нашей памяти с восковой табличкой, на которой запечатлены наши восприятия и мысли — так же как перстень-печатка оставляет отпечаток на воске. Обратите внимание, что метафора отпечатывания символов на воске по сути пространственная (экстенсивная) и не может быть легко согласована с внепространственной интерпретацией мира идей, развиваемой Платоном.
Можно получить представление о роли, которую играет понятие «форма» в классической методологии, если принять во внимание учение Аристотеля (– гг. до н.э.) о четырех причинах. В аритотелианской методологии понимание объекта подразумевает понимание четырех различных его аспектов:
- Материальная причина: Причиной называется то содержимое вещи, из чего она возникает; например, медь — причина изваяния и серебро — причина чаши, а также их роды суть причины;
- Формальная причина: форма, или первообраз, а это есть определение сути бытия вещи, а также роды формы, или первообраза (например, для октавы — отношение двух к одному и число вообще), и составные части определения;
- Действующая причина: то, откуда берет первое свое начало изменение или переход в состояние покоя; например, советчик есть причина, и отец — причина ребенка, и вообще производящее есть причина производимого, и изменяющее — причина изменяющегося;
- Целевая причина: цель, т.е. то, ради чего нечто делается; например, цель гулянья — здоровье. В самом деле, почему человек гуляет? Чтобы быть здоровым, говорим мы. И, сказав так, мы считаем, что указали причину. (Аристотель , «Метафизика», a)
Обратите внимание, что отвергающий теорию форм Платона (понимаемых как вневременные внепространственные сущности), Аристотель все еще использует «форму» как узкоспециальную концепцию. Приведенный отрывок утверждает, что знание формы или структуры объекта, т.е. информации, является необходимым условием для понимания объекта. В этом смысле информация является ключевым аспектом классической эпистемологии.
Тот факт, что в качестве примера приводится соотношение , также иллюстрирует глубокую связь между понятием форм и представлением о том, что мир управляется математическими принципами. Находясь под влиянием более старой пифагорейской традиции (Пифагор – гг. до н.э.), Платон полагал, что «все возникающее и происходящее в мире» можно измерить с помощью чисел («Политик», а). В ряде случаев Аристотель упоминает тот факт, что Платон связывал идеи с числами (Vogel ). Хотя формальные математические теории информации появились только в ХХ веке, — и нужно быть осторожным с интерпретациями греческого понятия числа в сколько-нибудь современном смысле, — идея, что информация по существу была математическим понятием, восходит к классической философии. Форма объекта понималась как структура или паттерн, который можно описать при помощи чисел. Понятая таким образом форма имела как онтологический, так и эпистемологический аспект: она объясняет саму суть вещи так же хорошо, как и ее постижимость. Соответственно, понятие информации с самого начала философских размышлений уже было связано с эпистемологией, онтологией и математикой.
Две фундаментальные проблемы, которые не объясняются классической теорией идей или форм, таковы: 1) фактический акт познания объекта (т.е., если я вижу лошадь, каким образом идея лошади активируется в моем уме) и 2) процесс мышления как манипулирование идеями. Аристотель рассматривает эти вопросы в книге «О душе», привлекая аналогию «перстень-печатка-отпечаток-в-воске»:
Относительно любого чувства необходимо вообще признать, что оно есть то, что способно воспринимать формы ощущаемого без его материи, подобно тому как воск принимает отпечаток перстня без железа или золота. Воск принимает золотой или медный отпечаток, но не поскольку это золото или медь. Подобным образом и ощущение, доставляемое каждым органом чувства, испытывает что-то от предмета, имеющего цвет, или ощущаемого на вкус, или производящего звук, но не поскольку под каждым таким предметом подразумевается отдельный предмет, а поскольку он имеет определенное качество, т.е. воспринимается как форма (logos).
Аристотель, «О душе», кн. II, гл. 12
…претерпевание ума имеет тот общий смысл, о котором уже было сказано, а именно что в возможности ум некоторым образом есть то, что он мыслит, в действительности же нет, пока он не мыслит его. Здесь должно быть так, как на дощечке для письма, на которой в действительности еще ничего не написано; таков же и ум.
Аристотель, «О душе», кн. III, гл. 4
В приведенных отрывках много влиятельных идей, а сами они могут быть задним числом прочитаны как программные для философии информации: процесс informatio может восприниматься как запечатление знаков на чистой восковой табличке (tabula rasa), а мышление может быть проанализировано как манипулирование символами.
Средневековая философия
На протяжении всего Средневековья размышлениями о концепции informatio поочередно были заняты многие мыслители. Показательным примером аристотелианского влияния является пассаж Августина в «О Троице», кн. XI. В нем он анализирует зрение как аналогию понимания Троицы. Есть три аспекта: телесная форма во внешнем мире, informatio посредством чувства зрения и форма, возникающая уже в уме. Для описания этого процесса информации Августин использует образ перстня-печатки, оставляющего отпечаток на воске (De Trinitate, XI Cap 2 par 3). Капурро (Capurro ) отмечает, что этот анализ можно интерпретировать как раннюю версию технической концепции «отправки сообщения» в современной теории информации, однако сама идея значительно старше и является общей темой уже в древнегреческой мысли (Платон, «Теэтет», c, d; Аристотель, «О душе», кн. II, гл. 12, кн. III, гл. 4; Теофраст, «О чувствах», 50).
Позднее понятие tabula rasa получило развитие в теории познания Авиценны (ок. – гг. н.э.):
Человеческий интеллект при рождении скорее похож на чистую доску, чистую потенциальность, которая актуализируется в процессе образования и получения знаний. Знание достигается посредством эмпирического знакомства с объектами в этом мире, из которых абстрагируются универсальные понятия.
Sajjad
Идея развития человеческого разума из состояния чистой доски была темой романа арабского андалузского философа Ибн-Туфейля (– гг. н.э., известного на западе как «Abubacer» или « Эбн Тофаил»). Этот роман назывался «Повесть о Хайе, сыне Якзана» (Ибн-Туфейль ) и описывал развитие изолированного ребенка на необитаемом острове. Более поздний — года — перевод этого текста на латынь под заголовком Philosophus Autodidactus повлиял на эмпирика Джона Локка при формулировании им доктрины tabula rasa.
Помимо постоянной творческой напряженности между теологией и философией, после повторного открытия «Метафизики» Аристотеля в XII столетии средневековую мысль, вдохновленную арабскими учеными, можно охарактеризовать как сложную и тонкую интерпретацию и развитие в основном аристотелианской, классической теории.
Размышления о понятии informatio под влиянием Авиценны встречаются у таких мыслителей, как Фома Аквинский (– гг.) и Дунс Скот (/66– гг.). Когда Аквинат обсуждает вопрос о том, могут ли ангелы взаимодействовать с материей, он обращается к аристотелианской доктрине гилеморфизма (т.е. теории о том, что вещество состоит из материи (hylo [древесина], субстанция) и формы (morphè)). В этом месте Аквинский переводит ее как ин-формирование материи (informatio materiaе) (Summa Theologiae,1a 2, Capurro ; Аквинский –). Дунс Скот ссылается на informatio в узскоспециальном смысле, когда обсуждает теорию зрения Августина в трактате последнего «О Троице», XI Cap 2 par 3 (Duns Scotus, , De imagine, Ordinatio, I, d.3, p.3).
Напряжение, которое уже существовало в классической философии между платоновским идеализмом (universalia ante res) и аристотелианским реализмом (universalia in rebus), было выделено как проблема универсалий: существуют ли универсальные качества, — такие как «человечность» или идея лошади, — отдельно от индивидуальных сущностей, являющихся их инстанциациями? Именно в контексте отказа от универсалий Оккам (ок. – гг. н.э.) вводит свою всем известную бритву: не следует умножать сущности сверх необходимости. Во всех своих сочинениях Аквинский и Скот используют латинские термины informatio и informare в узкоспециальном смысле, Оккамом же эта терминология не используется.
Современная философия
История понятия информации в философии Нового времени сложна. Начиная примерно с XIV века термин «информация» появился в различных развивающихся европейских языках в общем значении «образование» и «запрос/разыскание». Французский исторический словарь Годфруа (Godefroy ) приводит в качестве ранних значений «информации» слова действие, учение, талант, наука. Термин также в явном виде использовался для юридических запросов (Dictionnaire du Moyen Français (–) ). Из-за этого разговорного использования термин «информация» постепенно теряет связь с понятием «форма» и все меньше и меньше появляется в формальном смысле в философских текстах.
В конце средневековья общество и наука существенно изменились (Hazard ; Ong ; Dijksterhuis ). В ходе длительного и сложного процесса аристотелианская методология четырех причин была преобразована, дабы служить потребностям экспериментальной науки:
- Материальная причина развилась в современное представление о материи.
- Формальная причина была переосмыслена как геометрическая форма в пространстве.
- Действующая причина была переопределена как прямое механическое взаимодействие между материальными телами.
- Целевая причина была отклонена как ненаучная. Из-за этого у современников Ньютона возникли трудности с понятием силы гравитации в его теории. Гравитация как действие на расстоянии казалась повторным введением целевых причин.
В этом меняющемся контексте переосмысляется и аналогия отпечатка в воске.
Прототип современной концепции информации как структуры множества или последовательности простых идей разрабатывается сторонниками эмпиризма, но поскольку узкоспециальный смысл термина «информация» утерян, эта теория знания не идентифицируется как новая «теория информации».
Следствием данного изменения в методологии становится то, что лишь явления, объяснимые через механические взаимодействия между материальными телами, могут быть изучены с научной точки зрения. В современном смысле это может быть понято как редукция интенсивных свойств до измеримых экстенсивных свойств. Для Галилея это прозрение является программным:
Не думаю, чтобы для возбуждения у нас ощущений вкуса, запаха и звука от внешних тел требуется что-нибудь еще, кроме размеров, форм, числа и медленных или быстрых движений…
Галилей
Позднее эти идеи привели к учению о различии между первичными качествами (пространство, форма, скорость) и вторичными качествами (тепло, вкус, цвет и т.д.). В контексте философии информации наблюдения Галилея по поводу вторичного качества «тепла» имеют особое значение, поскольку закладывают основы для изучения термодинамики в XIX веке:
Мы уже видели, что многие ощущения, которые принято связывать с качествами, имеющими своими носителями внешние тела, реально существуют только в нас, а вне нас представляют собой не более чем имена. Я склонен думать, что и тепло принадлежит к числу таких свойств. Те материи, которые производят в нас тепло и вызывают у нас ощущение теплоты (мы называем их общим именем «огонь»), в действительности представляют собой множество мельчайших частиц, обладающих определёнными формами и движущимися с определёнными скоростями.
Галилей
Ключевым мыслителем, участвовавшим в описываемой трансформации является Рене Декарт (–). В его «Размышлениях о первой философии» после «доказательства» того, что материя (res extensa) и сознание (res cogitans) являются разными субстанциями (то есть формами бытия, существующими независимо друг от друга), вопрос о взаимодействии между этими субстанциями становится проблемой. Податливость воска является для Декарта явным аргументом против влияния res extensa на res cogitans (Размышления II, 15). Тот факт, что кусок воска легко теряет свою форму и другие качества при нагревании, означает, что чувства не подходят для идентификации объектов в мире. Таким образом, истинное знание может быть достигнуто только «проверкой ума». Здесь метафора воска, которая на протяжении более лет использовалась для объяснения чувственных впечатлений, используется для оспаривания возможности достичь знания через чувства. Так как сутью res extensa является протяженность, мышление принципиально не может быть понято как пространственный процесс. Декарт все еще использует термины «форма» и «идея» в первоначальном схоластическом негеометрическом (вневременном и внепространственном) смысле. Примером является краткое формальное доказательство существования Бога во втором ответе Мерсенну в «Размышлениях»:
Под именем идея я разумею ту форму любой мысли, путем непосредственного восприятия которой я осознаю эту самую мысль
(Idea nomine intelligo cujuslibet cogitationis formam illam, per cujus immediatam perceptionem ipsius ejusdem cogitationis conscious sum)
Я называю их «идеями», говорит Декарт
постольку, поскольку они формируют самое мысль, возникающую в данной части мозга. (sedtantum quatenus mentem ipsam in illam cerebri partem conversam informant).
Декарт , Т. 2, Ответ на вторые возражения; Аргументы, доказывающие бытие бога и отличие души от тела, изложенные геометрическим способом
Поскольку res extensa и res cogitans являются разными субстанциями, акт мышления никогда не может быть воспроизведен в пространстве: машины не могут иметь универсальных способностей разума. Декарт приводит два отдельных соображения в пользу этой позиции:
Во-первых, такая машина никогда не могла бы пользоваться словами или другими знаками, сочетая их так, как это делаем мы, чтобы сообщать другим свои мысли. <…> Во-вторых, хотя такая машина многое могла бы сделать так же хорошо и, возможно, лучше, чем мы, в другом она непременно оказалась бы несостоятельной, и обнаружилось бы, что она действует не сознательно, а лишь благодаря расположению своих органов. Ибо в то время как разум — универсальное орудие, могущее служить при самых разных обстоятельствах, органы машины нуждаются в особом расположении для каждого отдельного действия. Отсюда немыслимо, чтобы в машине было столько различных расположении, чтобы она могла действовать во всех случаях жизни так, как нас заставляет действовать наш разум.
Рассуждения о методе, Декарт , Т. 1
Этот отрывок релевантен теме, поскольку в нем прямо говорится о возможности искусственного интеллекта. Более того, его даже можно интерпретировать как аргумент против возможности создания универсальной машины Тьюринга: разум как универсальный инструмент никогда не может быть воспроизведён в пространстве. Эта концепция находится в противоречии с современной концепцией информации как измеримой величины, в которой она является пространственной по существу, т.е. экстенсивной (но в несколько другом смысле, нежели в используемом Декартом).
Декарт не предлагает новую интерпретацию понятий формы и идеи, однако создает почву для дискуссии о природе идей, которая развивается вокруг двух противоположных позиций:
Рационализм: Представление Декарта о том, что идеи являются врожденными и, следовательно, априорными. Эта версия рационализма подразумевает интерпретацию понятия идей и форм как вневременных, внепространственных, но сложных структур, например, идеи «лошади» (т.е. даже на уровне идеи обладающей головой, телом и ногами). Эта позиция также хорошо согласуется с интерпретацией познающего субъекта как созданного существа (ens creatu). Бог создал человека по своему собственному образу и тем самым предоставил человеческому уму адекватный набор идей, позволяющий последнему понять его — Божье — творение. В этой теории рост знаний априори ограничен; создание новых идей ex nihilo невозможно. Данную точку зрения трудно совместить с концепциями экспериментальной науки.
Эмпиризм: Концепции строятся в уме апостериорно — на основе идей, связанных с чувственными впечатлениями. Эта доктрина подразумевает новую интерпретацию концепции идеи как:
все, что является объектом мышления человека, то я употреблял его для выражения того, что подразумевают под словами «фантом», «понятие», «вид», или всего, чем может быть занята душа во время мышления.
Локк кн. I, гл. 1, п. 8
Здесь идеи понимаются как элементарные строительные блоки человеческого знания и рефлексии. Это хорошо согласуется с требованиями экспериментальной науки. Недостатком же является то, что разум никогда не сможет сформулировать аподиктические истины о причине и следствии или сути наблюдаемых сущностей, включая утверждения о своей идентичности. Человеческое знание становится принципиально вероятностным .
Переосмысление Локком понятия идеи как «структурного заполнителя» для любой сущности, присутствующей в уме, является ключевым шагом в появлении современной концепции информации.
Поскольку эти идеи не участвуют в обосновании аподиктических знаний, необходимость подчеркивать вневременную и внепространственную природу идей исчезает. Построение понятий на основе сочетаний элементарных идей, которые сами основываются на чувственном опыте, открывает ворота для реконструкции знания как экстенсивного свойства агента: большее число идей подразумевает более вероятное знание.
Во второй половине XVII века формальная теория вероятности была разработана такими исследователями, как Паскаль (–), Ферма ( или –) и Христиан Гюйгенс (–). Работа De ratiociniis in ludo aleae Гюйгенса была переведена на английский язык Джоном Арбетнотом (Arbuthnot ). Для этих авторов мир был по сути механистическим и, следовательно, детерминированным, отсюда вероятность была лишь качеством человеческого знания, проистекающим из его несовершенства:
Кубик, брошенный со вполне определенной силой и направлением, не может не упасть на определенную [этими факторами] сторону — это лишь я не знаю силы и направления, из-за которых он падает именно на данную сторону, а потому я называю это случайностью, которая есть не что иное, как нехватка знания…
John Arbuthnot, Of the Laws of Chance (), предисловие
Вероятно, данный текст повлиял на Юма, который первым объединил формальную теорию вероятностей с теорией познания:
Хотя в мире не существует ничего подобного случайности, наше незнание истинной причины какого-либо явления производит на ум такое впечатление и порождает такой вид веры, или мнения. <…> Если бы на четырех сторонах игральной кости была одна цифра, или одно число очков, а на двух остальных — другая цифра, или другое число очков, то было бы вероятнее, что выпадут первые, а не вторые; хотя в случае, если бы тысяча сторон была помечена одинаково и только одна сторона иначе, соответствующая вероятность была бы гораздо больше, а наша вера в наступление события, или ожидание его, более тверда и обоснованна. Такой процесс мышления или рассуждения может показаться весьма обычным и очевидным, но тем, кто рассмотрит его ближе, он, быть может, даст повод к любопытным размышлениям.
Юм , раздел VI, «О вероятности» 1
Здесь знание о будущем рассматривается как степень веры, измеряемая вероятностью, — которая, в свою очередь, объясняется числом конфигураций, которые способна иметь детерминированная система в мире. Все основные строительные блоки современной теории информации на месте, они присутствуют здесь. С помощью своей новой концепции знания эмпирики заложили основу для последующего развития термодинамики как редукции вторичного качества тепла к первичным качествам тел.
В то же время термин «информация», по-видимому, утратил большую часть своего узскоспециального значения в трудах эмпириков, поэтому новая линия развития не была обозначена в качестве нового толкования понятия «информация». Локк иногда использует фразу, что наши чувства «информируют» нас о мире, и иногда использует слово «информация».
Какими, например, новыми сведениями (information), новым знанием обогащает человека, знающего сложную идею, обозначаемую словом «свинец», положение «свинец есть металл»?
Локк , кн. IV, гл. 8, п. 4
Юм, кажется, использует информацию таким же случайным образом, когда замечает:
Хотя бы два объекта и были совершенно сходны друг с другом и даже появлялись в одном и том же месте в различное время, они могут быть численно различны; а так как сила, с помощью которой один объект производит другой, никогда не может быть открыта исключительно исходя из идеи этих объектов, то очевидно, что причина и действие — такие отношения, о которых мы узнаем из опыта, а не из какого-либо абстрактного рассуждения или размышления.
Юм , часть III, раздел 1
Впрочем, методология эмпиризма и сама не была беcпроблемной. Ее наибольшая проблема заключалась в том, что все знания становятся вероятностными и апостериорными. Иммануил Кант (–) был одним из первых, кто указал, что человеческий разум обладает метаконцепциями пространства, времени и причинности, которые никогда не могут быть поняты как результат простого сочетания «идей». Более того, эти интуиции позволяют нам с уверенностью формулировать научные прозрения: например, что сумма углов треугольника в евклидовом пространстве равна градусам. Это обстоятельство не может быть объяснено в эмпиристских рамках. Если знание создается при помощи комбинации идей, тогда должен существовать априорный синтез идей в человеческом разуме. Согласно Канту, это подразумевает, что человеческий разум может оценить свою собственную способность формулировать научные суждения. В «Критике чистого разума» Кант разработал трансцендентальную философию как исследование необходимых условий человеческих знаний. Хотя трансцендентальная программа Канта не вносит непосредственный вклад в развитие концепции информации, она оказала заметное влияние на исследования основ математики и других областей знания, имеющих отношение к этой теме. Примерами тому за XIX и XX века могут служить работы Фреге, Гуссерля, Рассела, Брауэра, Витгенштейна, Гёделя, Карнапа, Поппера и Куайна.
Историческое развитие значения термина «информация»
История термина «информация» неразрывно связана с изучением центральных проблем эпистемологии и онтологии в западной философии. Зародившись в качестве узкоспециального термина в классических и средневековых текстах, термин «информация» почти исчез из философского дискурса в философии Нового времени, но приобрел популярность в разговорной речи. Постепенно термин получил статус абстрактного массового существительного, т.е. приобрел значение, никак не относящееся к классическому его смыслу, ориентированному на процесс. В таком виде термин был подхвачен несколькими исследователями (Fisher ; Shannon ) в ХХ веке, которые ввели формальные методы измерения «информации». Это, в свою очередь, привело к возрождению философского интереса к понятию информации. Столь сложная история, похоже, является одной из главных причин, почему формулировка определения единого понятия информации, удовлетворявшего бы всем нашим представлениям, так трудна. Исторически релевантны как минимум три разных значения слова «информация»:
«Информация» как процесс бытия информированным (ин-формирования). Это самое старое значение, обнаруживаемое в трудах таких авторов, как Цицерон (–43 гг. до н.э.) и Августин (– гг. н.э.): оно теряется в современном дискурсе, хотя связь информации с процессами (т.е. вычислениями, потоками или отправлением сообщений) все еще существует. В классической философии можно сказать, что когда я распознаю лошадь в качестве таковой, тогда «форма» лошади появляется в моем уме. Этот процесс и есть моя «информация» о природе лошади. Также акт обучения можно назвать «информацией» ученика. В том же смысле можно сказать, что скульптор создает скульптуру, «информируя» кусок мрамора. Задача скульптора — «ин-формация» статуи (Capurro & Hjørland ). Это ориентированное на процесс значение довольно надолго сохранилось в западноевропейском дискурсе: даже в XVIII веке Робинзона Крузо мог подразумевать под образованием своего слуги Пятницы его «информацию» (Дефо ). В данном значении термин также используется Беркли: «Я люблю информироваться всеми темами, которые встречаются на моем пути, а особенно наиболее важными» (Беркли , диалог 1, разд. 5, п. 6/10).
«Информация» как состояние агента (информированность), т.е. как результат процесса информирования (см. предыдущее значения). Если кто-то учит ученика теореме Пифагора, то после завершения этого процесса можно сказать, что ученик «обладает информацией о теореме Пифагора». В этом значении термин «информация» является результатом той же подозрительной формы субстантивации глагола (informare > informatio), что и многие другие узкоспециальные термины в философии (субстанция, сознание, субъект, объект). Этот вид терминологии печально известен своими концептуальными трудностями. Можно ли вывести факт, что у меня «есть» сознание, из того, что я и есть сознание? Можно ли получить тот факт, что у меня «есть» информация, из того, что я был информирован? Переход к этому современному конкретизированному значению, по-видимому, происходил постепенно и был общим для пространства Западной Европы по меньшей мере с середины XV века. В эпоху Возрождения ученого можно было бы назвать «человеком информации» так же, как мы сегодня можем сказать, что кто-то получил образование (Adriaans and van Benthem b; Capurro & Hjørland ). В «Эмме» Джейн Остен можно прочесть: «Мистер Мартин, я полагаю, человек, не слишком сведущий (man of information) в тех предметах, кои не входят в круг его занятий. Он не привержен к чтению?» (Остин 12).
«Информация» как предрасположенность информировать, т.е. как способность объекта информировать агента. Когда акт обучения меня теореме Пифагора оставляет во мне информацию об этой теореме, естественно предположить, что текст, в котором теорема объясняется, на самом деле «содержит» эту информацию. Текст обладает способностью информировать меня, когда я его читаю. В том же смысле, когда я получил информацию от учителя, я способен передать эту информацию другому ученику. Таким образом, информация становится чем-то, что можно хранить и измерять. Это последнее понятие информации как абстрактного массового существительного получило широкое признание в современном обществе и обрело окончательную форму в XIX веке, позволив Шерлоку Холмсу сделать следующее наблюдение: «…друг Лестрейд держал в руках информацию, ценность которой он сам не знал» («Приключение знатного холостяка», Конан Дойль ).
Ассоциация с узкоспециальными философскими понятиями, — такими как «форма» и «информирование», — исчезла из массового сознания, хотя связь между информацией и процессами, — такими как хранение, сбор, вычисления и обучение, — все еще существует.
Оглядываясь назад, мы замечаем: многие понятия, имеющие отношение к системам оптимальных кодов, идеальным языкам, а также к связи между языками вычисления и обработки, были постоянными предметами философских размышлений с XVII века.
Языки
Один из наиболее сложных проектов, посвященных универсальному «философскому» языку был разработан епископом Джоном Уилкинсом в работе «Опыт о подлинной символике и философском языке» (). Проект Уилкинса состоял из сложной системы символов, которые предположительно были связаны с однозначными понятиями в реальности. Построения такого рода сделали философов чувствительными к глубоким связям между языком и мышлением. Эмпирическая методология позволила представить развитие языка как системы условных знаков, соответствующих связям между идеями в человеческом уме. Проблема, которая в настоящее время известна как проблема «заземления символов» (как произвольные знаки приобретают свое интерсубъективное значение), была одной из наиболее обсуждаемых в XVIII веке в контексте проблемы происхождения языков. Самые разные мыслители, — такие как Вико, Кондильяк, Руссо, Дидро, Гердер и Гаман, — внесли свой вклад в ее обсуждение. Центральный вопрос заключался в том, был ли язык задан априори (Богом) или же он был создан и, следовательно, являлся изобретением самого человека. Типичным примером существовавшего тогда интереса к этой теме был конкурс, анонсированный Королевской прусской академией :
En supposant les hommes abandonnés à leurs facultés naturelles, sont-ils en état d’inventer le langage? Et par quels moyens parviendront-ils d’eux-mêmes à cette invention?Если предположить, что люди отбросили свои естественные способности, смогут ли они изобрести язык, и какими средствами они придут к этому изобретению?
Спор продолжался более века без какого-либо заключения, и в году Парижское лингвистическое общество (Société de Linguistique de Paris) исключило этот вопрос из .
С философской точки зрения более релевантной является работа Лейбница (–) по так называемой characteristica universalis: понятию универсального логического исчисления, которое было бы идеальным средством для научных рассуждений. Центральное предположение в философии Лейбница заключается в том, что такой совершенный язык науки принципиально возможен в силу совершенной природы мира как творения Бога (ratio essendi = ratio cognoscendi, основание бытия есть основание знания). Этот принцип был отвергнут Вольфом (–), который предложил более эвристически ориентированную characteristica combinatoria (van Peursen ). Данным идеям предстояло дождаться таких мыслителей, как Буль (, «Исследование законов мышления»), Фреге (, «Исчисление понятий» [Фреге ]), Пирс (который уже в году предположил, что электрические цепи могут использоваться для обработки логических операций), а также Уайтхед и Рассел (–, Principia Mathematica [–]), в чьих руках они нашли плодотворное применение.
Оптимальные коды
Тот факт, что частота использования тех или иных букв различается в зависимости от языка, был известен с момента изобретения книгопечатания. Для набора английского текста принтеры нуждались в большем количестве «e» и «t», чем «х» или «d». Знание об этом широко использовалось при расшифровки закодированных сообщений с XVII века (Kahn ; Singh ). В году помощник Сэмюэля Морзе Альфред Вейль определил частоту букв, используемых в местной газете в Морристауне, Нью-Джерси, а затем использовал это для оптимизации кода азбуки Морзе. Так что ядро теории оптимальных кодов было создано задолго до того, как Шеннон разработал его математическую основу (Shannon ; Shannon & Weaver ). Исторически важными, но философски менее значимыми являются усилия Чарльза Бэббиджа по созданию вычислительных машин (Разностная машина в году и Аналитическая машина в – гг.), а также попытка Ады Лавлейс (– гг.) разработать то, что считается первым языком программирования для Аналитической машины.
Числа
Самый простой способ представления чисел — это унарная система. В ней длина представления числа равна размеру самого числа, т.е. число «десять» представляется в виде «\\\\\\\\\\». Классическая римская система счисления является улучшением, поскольку содержит разные символы для разных порядков величины (один = I, десять = X, сто = C, тысяча = M). Однако эта система имеет и огромные недостатки, поскольку для кодирования натуральных чисел в принципе требуется бесконечное количество символов, а вследствие этого одни и те же математические операции (сложение, умножение и т.д.) принимают различные формы при работе с разным порядком величины. Около г. н.э. в Индии было изобретено число ноль. Используя ноль в качестве заполнителя, мы можем кодировать бесконечное количество чисел конечным набором символов (один = 1, десять = 10, сто = , тысяча = и т.д.). С современной точки зрения возможно бесконечное количество позиционных систем счисления, если у нас есть 0 в качестве заполнителя и конечное число других символов. Наша обычная десятичная система счисления имеет десять цифр «0, 1, 2, 3, 4, 5, 6, 7, 8, 9» и представляет число двести пятьдесят пять как «». В двоичной системе счисления у нас есть только символы «0» и «1». Здесь двести пятьдесят пять представлено как «». В шестнадцатеричной системе с 16 символами (0, 1, 2, 3, 4, 5, 6, 7, 8, 9, a, b, c, d, e, f) это же число может быть записано как «ff». Отметим, что длина этих представлений значительно отличается.
Используя подобный способ представления, математические операции могут быть стандартизированы независимо от порядка чисел, с которыми мы имеем дело, т.е. с подобной позиционной системой счисления связаны возможности построения единого алгоритмического подхода к математическим функциям (сложение, вычитание, умножение и деление и т. д.).
Концепция позиционной системы счисления была привнесена в Европу персидским математиком аль-Хорезми (ок. — ок. г. н.э.). Его основная работа, посвященная числам (al-Khwarizmi, ок. г. н.э.), была переведена на латынь как Liber Algebrae et Almucabola в XII веке — от ее названия, среди прочего, происходит термин «алгебра». Наше слово «алгоритм» происходит от Algoritmi, латинской формы имени автора. Позиционные системы счисления упростили коммерческие и научные расчеты.
В году Майкл Стифель ввел понятие степени числа в Arithmetica integra (Stifel ). Таким образом, 8 можно записать как $2^3$, а 25 как $5^2$ . Понятие показателя степени сразу же предполагает понятие логарифма как обратной к нему функции: $\log_b b^a) = a$. Стифель сравнил арифметическую последовательность:
$$-3, -2, -1, 0, 1, 2, 3$$
в которой члены имеют разность 1, с геометрической последовательностью:
$$\frac{1}{8}, \frac{1}{4}, \frac{1}{2} , 1, 2, 4, 8$$
в которой члены имеют отношение 2. Показатели степени позволили ему переписать значения второй таблицы как:
$$2^{-3}, 2^{-2}, 2^{-1}, 2^0 , 2^1 , 2^2, 2^3$$
где объединены обе таблицы. Возможно, это была первая логарифмическая таблица. Более определенная и практическая теория логарифмов разработана Джоном Непером (–) в его основной работе (Napier ). Он придумал термин логарифм (logos + arithmetic: соотношение чисел). Как видно из совпадения арифметических и геометрических прогрессий, логарифмы сводят произведения к суммам,
$$\log_b (xy) = \log_b (x) + \log_b (y)$$
деления сводят к вычитанию,
$$\log_b (x/y) = \log_b (x) - \log_b (y)$$
а возведение в степень — к умножению:
$$\log_b (x^p) = p \log_b (x)$$
После публикации логарифмических таблиц Бриггсом (Briggs ) эта новая методика облегчения сложных вычислений быстро завоевала популярность.
Физика
Галилей в году уже делал предположение, что анализ таких явлений, как тепло и давление, может быть сведен к изучению движений элементарных частиц (Галилей ). В рамках эмпирической методологии это представимо в виде вопроса о том, как сенсорный опыт вторичного качества тепла объекта или газа может быть сведен к движению частиц. Бернулли («Гидродинамика», опубликовано в году [Бернулли ]) был первым, кто разработал кинетическую теорию газов: в ней макроскопически наблюдаемые явления описываются в терминах микросостояний систем частиц, подчиняющихся законам ньютоновской механики — однако это была скорее интеллектуальная попытка придумать адекватную математическую трактовку. Клаузиус (Clausius ) сделал окончательный шаг, когда ввел понятие длины свободного пробега частицы между двумя столкновениями. Это открыло путь для статистической трактовки данных явлений Максвеллом, который сформулировал свое знаменитое распределение в году: оно было первым статистическим законом в физике. Окончательная же формула, связавшая все понятия вместе (и выгравированная на надгробии автора, хотя фактическая формула принадлежит Планку), была разработана Больцманом:
$$S = k \log W$$
Она описывает энтропию $S$ системы в терминах логарифма числа возможных микросостояний $W$, согласующихся с наблюдаемыми макроскопическими состояниями системы, где $k$ является известной постоянной Больцмана. При всей своей простоте значение этой формулы для современной науки трудно переоценить. C точки зрения теории информации выражение «$\log W$» может интерпретироваться по-разному:
- Как количество энтропии в системе.
- Как длина числа, требуемого для подсчета всех возможных микросостояний, соответствующих макроскопическим наблюдениям.
- Как длина оптимального индекса, который нам нужен для идентификации конкретного текущего, но неизвестного микросостояния системы, т.е. это мера нашей «нехватки информации».
- В качестве меры вероятности любого типичного конкретного микросостояния системы, согласующегося с макроскопическими наблюдениями.
Таким образом, данная формула связывает аддитивную природу логарифма с экстенсивными качествами энтропии, вероятности, типичности и информации, благодаря чему представляет собой фундаментально важный шаг в использовании математики для анализа природы. Позднее Гиббс () уточнил формулу:
$$S = -\sum_i p_i \ln p_i,$$
где $p_i$ — вероятность того, что система находится в микросостоянии под номером «$i^{\textrm{th}}$». Эта формула была взята Шенноном (; Shannon & Weaver ) для характеристики коммуникационной энтропии системы сообщений. Хотя между математической трактовкой энтропии и информацией существует тесная связь, точная интерпретация этого факта с тех пор и до нашего времени является источником противоречий (Harremoës & Topsøe ; Bais & Farmer ).
Современные теории информации появились в середине ХХ века в особом интеллектуальном климате, в котором дистанция между науками и областями академической философии была довольно велика. Некоторые философы проявляли особо антинаучную позицию: например, Хайдеггер с его позицией «Der Wissenschaft denkt nicht» («Наука не мыслит»). С другой стороны, философы из Венского кружка открыто дискредитировали традиционную философию как занимающуюся иллюзорными проблемами (Carnap ). Программа исследований логического позитивизма была строгой реконструкцией философии, основанной на сочетании эмпиризма и последних достижений в логике. Возможно, из-за этого интеллектуального климата ранние значимые события в теории информации происходили в отрыве от основных линий философских размышлений. Перелом в этой ситуации обозначился с работы Дрецке в начале х (Dretske ). С начала века интерес к философии информации значительно вырос — в основном под влиянием работы Лучано Флориди по семантической информации. Также быстрое теоретическое развитие квантовых вычислений и связанного с ними понятия квантовой информации оказали влияние на философские размышления.
Поппер: информация как степень фальсифицируемости
Исследовательская программа логического позитивизма Венского кружка в первой половине ХХ века оживила старый проект эмпиризма. Цель Кружка состояла в том, чтобы реконструировать научные знания на основе прямых наблюдений и логической связи между утверждениями об этих наблюдениях. Старая критика Канта в отношении эмпиризма была возвращена к жизни Куайном (). В рамках логического позитивизма индукция была признана недействительной, и причинно-следственная связь не могла быть установлена объективно. В своей книге «Логика и рост научного знания» (Logik der Forschung, ) Поппер формулирует хорошо известный критерий демаркации, который сам он недвусмысленно считает решением юмовской проблемы индукции (Popper [ 42]). Научные теории, сформулированные как общие законы, никогда не могут быть окончательно верифицированы, но могут быть фальсифицированы всего лишь одним наблюдением. Это означает, что теория «более» научна, если она содержательно богаче и дает больше возможностей для фальсификации:
Таким образом, можно сказать, что количество эмпирической информации, сообщаемой теорией, или ее эмпирическое содержание, возрастает вместе со степенью ее фальсифицируемости.
Поппер , курсив автора
Эта цитата в контексте исследовательской программы Поппера показывает, что стремление измерить объемэмпирической информации в научной теории, представленной в виде набора логических утверждений, уже было признано философской проблемой — более чем за десять лет до того, как Шеннон сформулировал свою теорию информации. Поппер осознает тот факт, что эмпирическое содержание теории связано с ее фальсифицируемостью, а также что это, в свою очередь, связано с вероятностью конкретных утверждений в составе теории. Теории с более эмпирической информацией менее вероятны. Поппер отличает логическую вероятность от числовой вероятности («которая применяется в теории азартных игр и статистике», Поппер ; курсив автора). В отрывке, который является программным для последующего развития концепции информации, он определяет понятие логической вероятности следующим образом:
Логическая вероятность высказывания является дополнением его степени фальсифицируемости, она увеличивается с уменьшением степени фальсифицируемости. Логическая вероятность 1 соответствует степени фальсифицируемости 0, и наоборот.
Поппер , курсив автора
Вполне возможно проинтерпретировать численную вероятность как применимую к некоторой подпоследовательности (выбранной из отношения логической вероятности), для которой на основании оценок частоты можно определить систему измерения.
Поппер , курсив автора
Поппер так и не преуспел в формулировке хорошей формальной теории для измерения этого количества информации, хотя в более поздних работах он предполагает, что теория информации Шеннона может быть полезной (Popper [], [Appendix IX, from ]). Эти вопросы впоследствии были разработаны в философии науки. Теория конформации изучает индукционную теорию и то, как доказательства «поддерживают» определенную теорию (Huber ). Хотя работа Карнапа подстегнула важные разработки как в философии науки, так и в философии информации, связь между этими двумя дисциплинами, похоже, была потеряна. В работе Кёйперса (Kuipers a) нет упоминания теории информации или какой-либо более фундаментальной работы в области философии информации, однако эти две дисциплины определенно имеют области пересечения. (См., напр., обсуждение так называемого парадокса черных воронов в Kuipers b и Rathmanner & M. Hutter ).
Шеннон: информация, определенная с точки зрения вероятности
В двух знаковых работах Шеннон (Shannon ; Shannon & Weaver ) выразил коммуникационную энтропию системы сообщений A следующей формулой:
$$H(P) = -\sum_{i\in A} p_i \log_2 p_i$$
Здесь $p_i$ — вероятность сообщения $i$ в $A$. Это выражение является точным аналогом формулы энтропии Гиббса в физике. Использование логарифмов по основанию 2 гарантирует, что длина кода измеряется в битах (двоичных цифрах). Легко увидеть, что коммуникационная энтропия системы максимальна, когда все сообщения имеют равную вероятность и, следовательно, являются типичными.
Количество информации $I$ в отдельном сообщении $x$ задано выражением:
$$I(x) = -\log p_x$$
Эта формула может быть интерпретирована как обратная к энтропии Больцмана; она также охватывает ряд наших основных интуиций относительно информации:
- Сообщение $x$ имеет определенную вероятность возникновения $p_x$, от 0 до 1.
- Если $p_x = 1$, тогда $I(x) = 0$. Если мы уверены в получении сообщения, тогда оно буквально не содержит «ничего нового». Чем меньше вероятность сообщения, тем больше информации оно содержит. Сообщение типа «Солнце взойдет завтра», судя по всему, содержит меньше информации, чем сообщение «Иисус — это Цезарь», как раз потому, что второе утверждение вряд ли кто-то будет отстаивать (хотя его можно найти в интернете).
- Если два сообщения $х$ и $у$ не связаны между собой, тогда $I(x\textrm{ и } y)=I(x) + I(y)$. Информация экстенсивна. Количество информации в двух объединенных сообщениях равно сумме количеств информации в отдельных сообщениях.
Информация, представленная через отрицательный логарифм вероятности, является единственной математической функцией, которая в точности выполняет эти ограничения (Cover & Thomas ). Шеннон предлагает теоретическую структуру, в которой двоичные строки могут интерпретироваться как слова в языке (программирования), содержащем определенное количество информации (см. раздел ). Выражение $-\log p_x$ задает точную длину оптимального кода для сообщения $x$ и как таковое формализует старую интуицию о том, что коды более эффективны при более коротких представлениях букв с большей частотой встречаемости (см. раздел ). Логарифмы как способ сведения умножения к сложению (см. раздел ) являются естественном представлением экстенсивных свойств систем — и уже в качестве таковых были использованы физиками в XIX веке (см. раздел ).
Одним из аспектов информации, который явно не определен Шенноном, является действительное содержание сообщений, интерпретируемых как предложения.
Таким образом, утверждения «Иисус – это Цезарь» и «Луна сделана из зеленого сыра» могут содержать одинаковое количество информации, в то время как их значение совершенно различное. Значительная часть усилий в области философии информации была направлена на разработку более семантически-ориентированных теорий информации (Bar-Hillel and Carnap ; Floridi , , ). Хотя предложения Шеннона поначалу были почти полностью проигнорированы философами, в последние десятилетия значительность их влияния на философские проблемы стала очевидной. Дрецке (Dretske ) был одним из первых, кто проанализировал философские следствия теории Шеннона, однако точная связь между различными системами логики и теории информации все еще неясна (см. раздел ).
Соломонов, Колмогоров, Хайтин: информация как длина программы
Проблема соотнесения набора утверждений с набором наблюдений, а также определения соответствующей вероятности, была рассмотрена Карнапом (Carnap , ). Он различал две формы вероятности: вероятность$_1$ или «степень подтверждения» $P_1 (h ; e)$ представляет собой логическую связь между двумя предложениями, гипотезой $h$ и предложением $e$, в котором сообщается о ряде наблюдений. Утверждения такого типа либо аналитические, либо противоречивые. Вторая форма, вероятность$_2$ или «относительная частота», является статистической концепцией. По словам его ученика Соломонова (Solomonoff ):
Модель вероятности Карнапа начиналась с длинной последовательности символов, которая была описанием всей вселенной. Благодаря разработанному им формальному лингвистическому анализу, он был способен приписать априорные вероятности любой возможной последовательности символов, которая могла представлять вселенную.
Метод приписывания вероятностей, используемый Карнапом, не был универсальным и сильно зависел от используемых систем кодирования. Общая теория индукции с использованием правила Байеса может быть развита только тогда, когда мы можем приписать универсальную вероятность «любой возможной последовательности» символов. В работе года Соломонов (Solomonoff , а, b) был первым, кто набросал план решения этой проблемы. Он сформулировал понятие, сегодня известное как универсальное распределение вероятности: рассмотрим множество всевозможных конечных строк в качестве программ для универсальной машины Тьюринга $U$ и определим вероятность строки $x$ символов в терминах длины самой короткой программы $p$, которая выдаёт $x$ на $U$.
Это понятие алгоритмической теории информации несколько позже было независимо изобретено Колмогоровым (Kolmogorov ) и отдельно Хайтиным (Chaitin ). Левин (Levin ) разработал математическое выражение универсальной априорной вероятности как универсальной (т.е. максимальной) нижней полувычислимой полумеры $M$ и показал, что отрицательный логарифм $M (x)$ совпадает с колмогоровской сложностью $x$ с точностью до аддитивного логарифмического члена. Действительное определение меры сложности таково:
Колмогоровская сложность. Алгоритмическая сложность строки $x$ равна длине $l (p)$ наименьшей программы $p$, которая производит $x$, будучи запущенной на универсальной машине Тьюринга $U$ , обозначенной как: $U(p)=x$:
$$K(x):=\min_p \{l(p), U(p)=x\}$$
Алгоритмическая теория информации (она же колмогоровская теория сложности) превратилась в богатую область исследований с широким спектром сфер применения, многие из которых философски актуальны (Li and Vitányi ):
- Она дает нам общую теорию индукции. Использование правила Байеса позволяет по-новому переформулировать принцип бритвы Оккама с точки зрения минимальной длины описания (Rissanen , ; Barron, Rissanen, Yu ; Grünwald ) и минимальной длины сообщения (Wallace ). Стоит отметить, что Домингос (Domingos ) выступил против общезначимости этих принципов.
- Она позволяет нам сформулировать значение вероятности и информационного наполнения для отдельных объектов — даже для отдельных натуральных чисел.
- Она закладывает основы теории обучения, где последнее понимается как процедура сжатия данных (Adriaans ).
- Она дает определение случайности строки в терминах несжимаемости. Это само по себе привело к возникновению совершенно новой области исследований (Niess ; Downey & Hirschfeld ).
- Она позволяет нам сформулировать объективную априорную меру предсказательной ценности теории с точки зрения дефицита случайности в последней. Иными словами, лучшая теория — это наикратчайшая теория, которая делает данные условно случайными по отношению к теории (Vereshchagin and Vitányi ).
Впрочем, у этого подхода есть и свои недостатки:
- Алгоритмическая сложность невычислима, хотя во многих практических случаях ее можно аппроксимировать, причем коммерческие программы сжатия в некоторых случаях приближаются к теоретическому оптимуму (Cilibrasi and Vitányi ).
- Алгоритмическая сложность — это асимптотическая мера (т.е. она дает правильное значение с точностью до константы). В некоторых случаях значение этой константы недопустимо использовать из практических соображений.
- Хотя самая короткая теория всегда является лучшей с точки зрения дефицита случайности, постепенно возрастающее сжатие наборов данных в общем случае не является хорошей стратегией обучения, так как дефицит случайности не уменьшается монотонно с коэффициентом сжатия (Adriaans and Vitányi ).
- Общность определений, предоставляемых алгоритмической теорией информации, зависит от общезначимости концепции универсальной машины Тьюринга и, следовательно, в конечном итоге — от интерпретации тезиса Чёрча — Тьюринга.
- Колмогоровская сложность объекта не учитывает количество времени, которое требуется для фактического вычисления объекта. В этой связи Левин предложил вариант колмогоровской сложности, который выбраковывает время вычислений (Левин , Levin ):
Сложность Левина. Сложность Левина строки $х$ является суммой длины $l (p)$ и логарифма от времени вычисления, требуемого производящей $x$ наименьшей программе $p$, которая запущена на универсальной машине Тьюринга $U$, обозначенной как $U(p) = x$:
$$Kt(x):=\min_p \{l(p) + \log(time(p)), U(p)=x\}$$
Алгоритмическая теория информации получила быстрое признание в качестве фундаментальной теории информации. В известном многим введении в «Теорию информации» авторы книги утверждают: «…мы считаем сложность Колмогорова (т.е. АТИ) более фундаментальной, чем энтропию Шеннона» (Cover and Thomas 3).
Идея о том, что теория алгоритмической сложности является основой для общей теории искусственного интеллекта (и теории познания), уже была предложена Соломоновым (Solomonoff ) и Хайтиным (Chaitin ). Некоторые авторы защищают позицию, что сжатие данных является общим принципом, определяющим мышление человека (Chater & Vitányi ; Wolff ). Хаттер (Hutter , а, b) утверждает, что формальная и полная теория Соломонова по существу решает проблему индукции: Xаттер (Hutter a) и Ратманнер и Хаттер (Rathmanner & Hutter ) перечисляют множество связанных с индукцией классических философских и статистических проблем, а затем утверждают, что теория Соломонова решает все эти проблемы или их всех избегает. Вероятно, из-за своего технического характера теория была в значительной степени проигнорирована философским сообществом. Тем не менее, ее выделяют как один из самых фундаментальных вкладов в теорию информации в XX веке, и она явно актуальна для ряда философских вопросов, в том числе для упомянутой проблемы индукции.
В математическом смысле информация связана с измерением экстенсивных свойств классов систем с конечными, но неограниченными размерностями (системы частиц, текстов, кодов, сетей, графов, игр и т.д). Это указывает на возможность единообразной трактовки различных теорий информации. В «Руководстве по философии информации» выделяются три различные формы информации (Adriaans and van Benthem b):
Информация-А: Знание, логика, передаваемое в информативных ответах содержание
Информация-В: Вероятностная, теоретико-информационная, измеряется количественно
Информация-C: Алгоритмическая, сжатие кода, измеряется количественно
Благодаря недавним исследовательским находкам, связи между Информацией-B (Шеннон) и Информацией-C (Колмогоров) стали понятны достаточно хорошо (Cover and Thomas ). Представленный в данной статье исторический материал дает основание предположить, что размышления об Информации-А (логике, знании) имеют куда больше исторических переплетений, чем казалось общеизвестным до сих пор. Исследовательская программа логического позитивизма может быть задним числом охарактеризована как попытка объединить интерпретацию логики возможных миров с вероятностными рассуждениями (Carnap , ; Поппер ; из недавних подходов в этой области см. Hutter et al. ). Современные попытки создать байесовскую эпистемологию (Bovens and Hartmann ), по-видимому, не в курсе усилий, проделанных в первой половине ХХ века. Однако попытка объединить Информацию-А и Информацию-В представляется жизнеспособным интеллектуальным предприятием. Кроме того, связь между термодинамикой и теорией информации стала куда более тесной, в частности, благодаря работе Гелл-Манна и Ллойда (Gell-Mann & Lloyd ) (см. также: Bais and Framer ). Верлинде (Verlinde , ) даже представил модель редукции гравитации к информации.
Философия информации как расширение философии математики
Когда речь заходит об основных определениях понятия информации, — таких как информация Шеннона, колмогоровская сложность, семантическая информация и квантовая информация, — объединяющий подход к философии информации представляется возможным, если интерпретировать ее как расширение философии математики. В этом случае ответы на вопросы наподобие «Что такое данные?» и «Что такое информация?» вытекают из ответов на сопряженные вопросы вроде «Что такое множество?» и «Что такое число?». Оглядываясь назад, можно увидеть, сколь многие открытые проблемы в философии математики вращаются вокруг понятия информации.
Если мы обратимся к основаниям информации и вычислений, то приходим к двум понятиям, имеющим ключевое значение: это концепция набора данных и концепция алгоритма.
Коль скоро мы примем эти понятия как основополагающие, остальные данные теории и вычисления разворачиваются вполне естественно. Здесь можно «вставить» свою любимую эпистемологическую или метафизическую позицию, хотя по сути это не влияет на фундаментальные проблемы в философии вычислений и информации. Можно придерживаться формалистского, платонического или интуиционистского взгляда на математическую вселенную — и все же соглашаться с базовым представлением о том, что такое эффективное вычисление. В силу своей финитистской и конструктивистской природы теория вычислений, по всей видимости, обитает в той общей зоне, где пересекаются упомянутые онтологические теории.
Информация как природное явление
Информация как научная концепция естественным образом возникает в контексте нашего повседневного взаимодействия с природой, когда мы измеряем вещи. Примерами тому служат вполне обычные действия: измерение размера объекта с помощью палки, подсчет с помощью пальцев или рисование прямой линии с помощью куска веревки. Эти процессы являются опорными точками для таких абстрактных понятий как длина, расстояние, число и прямая линия, в свою очередь, выступающих строительными блоками науки. Сам факт, что эти концепции основаны на нашем конкретном опыте взаимодействия с реальностью, гарантирует их применимость и полезность. Исторически самые ранние следы обработки информации, которые мы можем обнаружить, группировались вокруг таких бытовых областей как счет, администрирование и хозяйственный учет.
Пример: подсчетные палочки
Одним из самых элементарных устройств измерения информации является унарный подсчет с использованием счетных . Счетные палочки использовались уже около 20 лет назад. Убив оленя, гипотетический доисторический охотник мог зарегистрировать этот факт, сделав царапину « )\oplus
nest...
23346 23347 23348 23349 23350
// Mathematics Magazine, 67 (2), &#;— P. 83—&#;— doi/