Шеннон, Клод: различия между версиями
[непроверенная версия] | [отпатрулированная версия] |
м Удаление шаблонов: {{нп5}}×1 |
м откат правок Sombady345 (обс.) к версии EyeBot Метка: откат |
||
(не показано 36 промежуточных версий 25 участников) | |||
Строка 2: | Строка 2: | ||
{{Учёный |
{{Учёный |
||
| Имя = Клод Элвуд Шеннон |
| Имя = Клод Элвуд Шеннон |
||
| Оригинал имени = Claude Elwood Shannon |
| Оригинал имени = {{lang-en|Claude Elwood Shannon}} |
||
| Изображение = Shannon.jpg |
| Изображение = Shannon.jpg |
||
| Ширина = |
| Ширина = |
||
Строка 14: | Строка 14: | ||
| Знаменитые ученики = |
| Знаменитые ученики = |
||
| Известен как = автор фундаментальных трудов по теории информации, электротехнике и криптографии |
| Известен как = автор фундаментальных трудов по теории информации, электротехнике и криптографии |
||
| Награды и премии = |
| Награды и премии = {{{!}} style="background:transparent" |
||
{{!}}{{Национальная научная медаль США|1966}} |
|||
{{!}}}{{nobr|Премия им. А. Нобеля [[Американский институт инженеров-электриков|AIEE]] (1940)}}; |
|||
* {{nobr|[[Премия Морриса Либманна]] [[Институт радиоинженеров|IRE]] (1949)}}; |
* {{nobr|[[Премия Морриса Либманна]] [[Институт радиоинженеров|IRE]] (1949)}}; |
||
* {{nobr|[[Медаль Стюарта Баллантайна]] (1955)}}; |
* {{nobr|[[Медаль Стюарта Баллантайна]] (1955)}}; |
||
* {{nobr|[[Гиббсовская лекция]] (1963)}}; |
* {{nobr|[[Гиббсовская лекция]] (1963)}}; |
||
* {{nobr|[[Медаль Почёта IEEE|Медаль Почёта]] [[Институт инженеров электротехники и электроники|IEEE]] (1966)}}; |
* {{nobr|[[Медаль Почёта IEEE|Медаль Почёта]] [[Институт инженеров электротехники и электроники|IEEE]] (1966)}}; |
||
* {{nobr|[[Национальная научная медаль США|Национальная научная медаль]] (1966)}}; |
|||
* {{nobr|[[Премия Шеннона]] (1972)}}; |
* {{nobr|[[Премия Шеннона]] (1972)}}; |
||
* {{nobr|[[Премия Харви]] (1972)}}; |
* {{nobr|[[Премия Харви]] (1972)}}; |
||
Строка 28: | Строка 29: | ||
| Сайт = |
| Сайт = |
||
}} |
}} |
||
'''Клод Э́лвуд Ше́ннон''' ({{lang-en|Claude Elwood Shannon}}; {{дата рождения|30|4|1916}} |
'''Клод Э́лвуд Ше́ннон''' ({{lang-en|Claude Elwood Shannon}}; {{дата рождения|30|4|1916}}, {{место рождения|Петоски||Петоски (Мичиган)}}, [[Мичиган]], [[США]] — {{дата смерти|24|2|2001}}, {{место смерти|Медфорд|в Медфорде (Массачусетс)|Медфорд (Массачусетс)}}, [[Массачусетс]], [[Соединённые Штаты Америки|США]]) — [[Американцы США|американский]] [[инженер]], [[Криптоанализ|криптоаналитик]] и [[математик]]. Считается «отцом [[Информационная эра|информационного века]]»<ref>{{source|Q28016096|ref=James|ref-year=2009}} <!-- Claude Elwood Shannon 30 April 1916 — 24 February 2001 // Biogr. Mem. Fellows R. Soc. --></ref>. |
||
Является основателем [[теория информации|теории информации]], нашедшей применение в современных высокотехнологических системах связи. Предоставил фундаментальные понятия, идеи и их математические формулировки, которые в настоящее время формируют основу для современных коммуникационных технологий. В 1948 |
Является основателем [[теория информации|теории информации]], нашедшей применение в современных высокотехнологических системах связи. Предоставил фундаментальные понятия, идеи и их математические формулировки, которые в настоящее время формируют основу для современных коммуникационных технологий. В 1948 году предложил использовать слово «[[бит]]» для обозначения наименьшей [[Единицы измерения ёмкости носителей и объёма информации|единицы информации]] (в статье «[[Математическая теория связи (статья)|Математическая теория связи]]»). Кроме того, понятие [[Информационная энтропия|энтропии]] было важной особенностью теории Шеннона. Он продемонстрировал, что введённая им энтропия эквивалентна мере неопределённости информации в передаваемом сообщении. Статьи Шеннона «Математическая теория связи» и «[[Теория связи в секретных системах]]» считаются основополагающими для теории информации и криптографии<ref name = ieeeS>{{source|Q28016109|ref=Gallager|ref-year=2001}} <!-- Claude E. Shannon: A Retrospective on His Life, Work, and Impact // IEEE Trans. Inf. Theory --></ref>. Клод Шеннон был одним из первых, кто подошёл к криптографии с научной точки зрения, он первым сформулировал её теоретические основы и ввёл в рассмотрение многие основные понятия. Шеннон внёс ключевой вклад в теорию вероятностных схем, [[теория игр|теорию игр]], [[теория автоматов|теорию автоматов]] и [[теория управления|теорию систем управления]] — области наук, входящие в понятие «[[кибернетика]]». |
||
== Биография == |
== Биография == |
||
== Детство и юность == |
=== Детство и юность === |
||
Клод Шеннон родился [[30 апреля]] [[1916 |
Клод Шеннон родился [[30 апреля]] [[1916 год]]а в городе Петоски (штат [[Мичиган]], [[Соединённые Штаты Америки|США]]). Отец его, Клод-старший (1862—1934), был бизнесменом, добившимся успеха своими собственными силами, адвокатом и в течение некоторого времени судьёй. Мать Шеннона, Мейбел Вулф Шеннон (1890—1945), была преподавателем иностранных языков и впоследствии стала директором Гэйлордской средней школы. Отец Шеннона обладал математическим складом ума. Любовь к науке была привита Шеннону его дедушкой. Дед Шеннона был изобретателем и фермером. Он изобрёл стиральную машину наряду с другой полезной в сельском хозяйстве техникой<ref>{{cite web|title=Claude Shannon|url=http://www.nyu.edu/pages/linguistics/courses/v610003/shan.html|website=nyu.edu|accessdate=2014-09-10|archive-date=2020-04-08|archive-url=https://web.archive.org/web/20200408115645/http://www.nyu.edu/pages/linguistics/courses/v610003/shan.html|deadlink=no}}</ref>. [[Эдисон, Томас Алва|Томас Эдисон]] был дальним родственником Шеннонов<ref name="MIT obituary">{{cite web |url=http://web.mit.edu/newsoffice/2001/shannon.html |title=MIT Professor Claude Shannon dies; was founder of digital communications |publisher=MIT — News office, Cambridge, Massachusetts |accessdate=2001-02-27 |lang= |archive-date=2004-09-27 |archive-url=https://web.archive.org/web/20040927122134/http://web.mit.edu/newsoffice/2001/shannon.html |deadlink=no }}</ref><ref name=Collected>{{книга |
||
| автор = Shannon C. E. |
| автор = Shannon C. E. |
||
| заглавие = Collected Papers |
| заглавие = Collected Papers |
||
| ссылка = https://archive.org/details/claudeelwoodshan0000shan |
|||
| ответственный = Edited by N.J.A Sloane and Aaron D. Wyner |
| ответственный = Edited by N.J.A Sloane and Aaron D. Wyner |
||
| издательство = IEEE press |
| издательство = IEEE press |
||
Строка 45: | Строка 47: | ||
}}</ref>. |
}}</ref>. |
||
Первые шестнадцать лет своей жизни Клод провёл в Гэйлорде (Мичиган), где в 1932 |
Первые шестнадцать лет своей жизни Клод провёл в Гэйлорде (Мичиган), где в 1932 году окончил Гэйлордскую общеобразовательную среднюю школу. В юности он работал курьером службы [[Western Union]]. Молодой Клод увлекался конструированием механических и автоматических устройств. Он собирал модели самолётов и радиотехнические цепи, создал радиоуправляемую лодку и телеграфную систему между домом друга и своим домом. Временами ему приходилось ремонтировать радиостанции для местного универмага<ref name = ieeeS/>. |
||
Шеннон, по собственным словам, был [[Аполитичность|аполитичным]] человеком и [[Атеизм|атеистом]]<ref>«…Shannon described himself as an atheist and was outwardly apolitical…»<br>{{source|Q28016366|pages=18|ref=Poundstone|ref-year=2010}} <!-- Fortune’s Formula: The Untold Story of the Scientific Betting System --></ref>. |
Шеннон, по собственным словам, был [[Аполитичность|аполитичным]] человеком и [[Атеизм|атеистом]]<ref>«…Shannon described himself as an atheist and was outwardly apolitical…»<br>{{source|Q28016366|pages=18|ref=Poundstone|ref-year=2010}} <!-- Fortune’s Formula: The Untold Story of the Scientific Betting System --></ref>. |
||
=== Университетские годы === |
=== Университетские годы === |
||
В 1932 |
В 1932 году Шеннон был зачислен в [[Мичиганский университет]], где на одном из курсов познакомился с работами [[Буль, Джордж|Джорджа Буля]]. В 1936 году Клод окончил [[Мичиганский университет]], получив степень бакалавра по двум специальностям (математик и электротехник), и устроился в [[Массачусетский технологический институт]] (MIT), где работал ассистентом-исследователем. Он выполнял обязанности оператора на механическом вычислительном устройстве, [[Аналоговый компьютер|аналоговом компьютере]], называемом «дифференциальный анализатор», разработанным его научным руководителем [[Буш, Вэнивар|Вэниваром Бушем]]. Изучая сложные, узкоспециализированные электросхемы [[Дифференциальный анализатор|дифференциального анализатора]], Шеннон увидел, что концепции Буля могут получить достойное применение. После того, как он проработал лето 1937 года в [[Bell Labs|Bell Telephone Laboratories]], он написал основанную на своей магистерской работе того же года статью «Символический анализ [[реле]]йных и переключательных схем». {{нп5|Фрэнк Лорен Хичкок|||Frank Lauren Hitchcock}} контролировал магистерскую диссертацию, давал полезные советы и критику. Сама статья была опубликована в 1938 году в издании {{нп5|Американский институт инженеров-электриков|Американского института инженеров-электриков|en|American Institute of Electrical Engineers}} (AIEE)<ref>{{source|Q28016133|ref=Shannon|ref-year=1938}} <!-- A Symbolic Analysis of Relay and Switching Circuits // Transactions of the American Institute of Electrical Engineers --></ref><ref name="SymbolicAnalysis">Claude Shannon, [http://dspace.mit.edu/bitstream/handle/1721.1/11173/34541425-MIT.pdf?sequence=2 "A Symbolic Analysis of Relay and Switching Circuits, "] {{Wayback|url=http://dspace.mit.edu/bitstream/handle/1721.1/11173/34541425-MIT.pdf?sequence=2 |date=20161001165329 }} unpublished MS Thesis, Massachusetts Institute of Technology, August 10, 1937.</ref>. В этой работе Шеннон показал, что переключающиеся схемы могут быть использованы для замены схем с электромеханическими реле, которые использовались тогда для [[Маршрутизация|маршрутизации]] телефонных вызовов. Затем он расширил эту концепцию, показав, что эти схемы могут решить все проблемы, которые позволяет решить [[Булева алгебра]]. Также, в последней главе он представляет заготовки нескольких схем, например, 4-разрядного [[сумматор]]а<ref name="SymbolicAnalysis" />. За эту статью Шеннон был награждён Премией имени Альфреда Нобеля Американского института инженеров-электриков в 1940 году. Доказанная возможность реализовывать любые логические вычисления в электрических цепях легла в основу проектирования цифровых схем. А цифровые цепи — это, как известно, основа современной вычислительной техники, таким образом, результаты его работ являются одними из наиболее важных научных результатов XX столетия. [[Гарднер, Говард|Говард Гарднер]] из [[Гарвардский университет|Гарвардского университета]] отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия». |
||
По совету Буша Шеннон решил работать над докторской диссертацией по математике в [[Массачусетский технологический институт|MIT]]. Буш был назначен президентом [[Институт Карнеги|Института Карнеги]] в [[Вашингтон (округ Колумбия)|Вашингтоне]] и предложил Шеннону принять участие в работе по генетике, которую вела [[Барбара Беркс]]. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Сам Шеннон, проведя лето в {{нп5|Вудс Хоул, Массачусетс|Вудс Хоул, Массачусетс|en|Woods Hole, Massachusetts}}, заинтересовался нахождением математического фундамента для [[Законы Менделя|законов наследования Менделя]]. Докторская диссертация Шеннона, получившая название «Алгебра теоретической генетики», была завершена весной 1940 |
По совету Буша Шеннон решил работать над докторской диссертацией по математике в [[Массачусетский технологический институт|MIT]]. Буш был назначен президентом [[Институт Карнеги|Института Карнеги]] в [[Вашингтон (округ Колумбия)|Вашингтоне]] и предложил Шеннону принять участие в работе по генетике, которую вела [[Барбара Беркс]]. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Сам Шеннон, проведя лето в {{нп5|Вудс Хоул, Массачусетс|Вудс Хоул, Массачусетс|en|Woods Hole, Massachusetts}}, заинтересовался нахождением математического фундамента для [[Законы Менделя|законов наследования Менделя]]. Докторская диссертация Шеннона, получившая название «Алгебра теоретической генетики», была завершена весной 1940 года<ref>C. E. Shannon, «An algebra for theoretical genetics», (Ph.D. Thesis, Massachusetts Institute of Technology, 1940), MIT-THESES//1940-3 [http://hdl.handle.net/1721.1/11174]{{Wayback|url=http://hdl.handle.net/1721.1/11174|date=20090108224441}}<span> Online text at MIT</span> — Contains a biography on pp. 64-65.</ref>. Однако эта работа не была выпущена в свет вплоть до 1993 года, пока она не появилась в сборнике Шеннона «Collected Papers». Его исследования могли стать весьма важными в противном случае, но бо́льшая часть этих результатов была получена независимо от него. Шеннон получает докторскую степень по математике и степень магистра по электротехнике. После этого он не возвращался к исследованиям в биологии<ref name = stan/>. |
||
Шеннон также был заинтересован в применении математики в информационных системах, таких как системы связи. После очередного лета, проведённого в [[Bell Labs]], в 1940 |
Шеннон также был заинтересован в применении математики в информационных системах, таких как системы связи. После очередного лета, проведённого в [[Bell Labs]], в 1940 году Шеннон на один академический год стал научным сотрудником в [[Институт перспективных исследований|Институте перспективных исследований]] в [[Принстон (Нью-Джерси)|Принстоне]], штат [[Нью-Джерси]], [[США]]<ref name = stan/>. Там он работал под руководством известного математика [[Вейль, Герман|Германа Вейля]], а также имел возможность обсудить свои идеи с влиятельными учёными и математиками, среди которых был [[Нейман, Джон фон|Джон фон Нейман]]. Он также имел случайные встречи с [[Эйнштейн, Альберт|Альбертом Эйнштейном]] и [[Гёдель, Курт|Куртом Гёделем]]. Шеннон свободно работал в различных дисциплинах, и эта способность, возможно, способствовала дальнейшему развитию его математической теории информации<ref>Erico Marui Guizzo, «[http://dspace.mit.edu/bitstream/handle/1721.1/39429/54526133-MIT.pdf?sequence=2 The Essential Message: Claude Shannon and the Making of Information Theory] {{Wayback|url=http://dspace.mit.edu/bitstream/handle/1721.1/39429/54526133-MIT.pdf?sequence=2 |date=20161201231712 }}» (M.S. Thesis, Massachusetts Institute of Technology, Dept. of Humanities, Program in Writing and Humanistic Studies, 2003), 14.</ref>. |
||
=== Военное время === |
=== Военное время === |
||
Весной 1941 |
Весной 1941 года он возвращается в компанию [[Bell Labs]] в рамках контракта с секцией D-2 (секция систем управления) [[Национальный исследовательский комитет по вопросам обороны США|Национального исследовательского комитета обороны США]] (NDRC), где он проработает до 1956 года. Со вступлением США во [[Вторая мировая война|Вторую мировую войну]] Т. Фрай возглавил работу над программой для систем управления огнём для противовоздушной обороны. Шеннон присоединился к группе Фрая и работал над устройствами обнаружения самолётов противника и наведения на них зенитных установок, также он разрабатывал криптографические системы, в том числе и правительственную связь, которая обеспечивала переговоры [[Черчилль, Уинстон|Черчилля]] и [[Рузвельт, Франклин|Рузвельта]] через океан. Как говорил сам Шеннон, работа в области криптографии подтолкнула его к созданию теории информации. |
||
Также в лаборатории Белл Шеннон, исследуя переключающие цепи, обнаруживает новый метод их организации, который позволяет уменьшить количество контактов реле, необходимых для реализации сложных логических функций. Он опубликовал доклад, названный «Организация двухполюсных переключающих цепей». В конце 1940 |
Также в лаборатории Белл Шеннон, исследуя переключающие цепи, обнаруживает новый метод их организации, который позволяет уменьшить количество контактов реле, необходимых для реализации сложных логических функций. Он опубликовал доклад, названный «Организация двухполюсных переключающих цепей». В конце 1940 года Шеннон получил Национальную научно-исследовательскую премию. |
||
Шеннону приписывают изобретение [[Переходный граф сигналов|сигнальных ориентированных графов]] в 1942 |
Шеннону приписывают изобретение [[Переходный граф сигналов|сигнальных ориентированных графов]] в 1942 году. Он вывел предельную формулу усиления при исследовании функциональной работы аналогового компьютера<ref>{{книга |заглавие=NASAP-70 User's and Programmer's manual |издательство=School of Engineering and Applied Science, University of California at Los Angeles |год=1970 |место=Los Angeles, California |страницы=3—9 |ссылка=http://ntrs.nasa.gov/archive/nasa/casi.ntrs.nasa.gov/19710025849.pdf |часть=3. 3 Flowgraph Theory |язык=und |автор=Okrent, Howard; McNamee, Lawrence P.}}</ref>. |
||
В начале 1943 |
В начале 1943 года Шеннон вступил в контакт с ведущим британским математиком [[Тьюринг, Алан|Аланом Тьюрингом]]. Тьюринг прибыл в Вашингтон, чтобы поделиться с криптоаналитической службой США методами, использующимися тогда в [[Центр правительственной связи|в центре правительственной связи]], в [[Блетчли-парк]]е, чтобы раскрыть шифр, используемый на подводных лодках [[Кригсмарине]] в северной части [[Атлантический океан|Атлантического океана]]<ref name=Hodges1992>{{source|Q27076209|ref=Hodges|ref-year=1992|pages=243–252}} <!-- Alan Turing: The Enigma --></ref>. Он также заинтересовался шифрованием речи и с этой целью уделил некоторое время «[[Bell Labs]]». Шеннон и Тьюринг встретились за чашкой чая<ref name=Hodges1992 />. Тьюринг показал Шеннону документ, который теперь известен как «[[Универсальная машина Тьюринга]]»<ref>{{source|Q25864184|ref=Turing|ref-year=1937}} <!-- On Computable Numbers, with an Application to the Entscheidungsproblem // Proceedings of the London Mathematical Society --></ref>. Это впечатлило Шеннона, так как многие из идей Тьюринга дополняли его собственные идеи. |
||
В 1945 |
В 1945 году, когда война подходила к концу, Национальный исследовательский комитет обороны США выпускал сводку технических отчётов в качестве последнего шага до своего окончательного закрытия. В нём присутствовало специальное эссе под названием «Усреднение данных и прогнозирование для систем управления огнём» совместного соавторства Шеннона, {{нп5|Ральф Биб Блэкмен|Ральфа Биба Блэкмена|en|Ralph Beebe Blackman|}} и {{нп5|Хендрик Боде|Хендрика Боде|en|Hendrik Wade Bode|}}, формально относящееся к проблеме усреднения данных в системах управления огнём по аналогии с «проблемой разделения сигнала от помех в системах связи.» Другими словами, они моделировали эту проблему с точки зрения обработки данных и сигналов и тем самым возвестили приход [[Информационная эра|Информационного Века]]<ref>{{source|Q28016330|pages=319—320|ref=Mindell|ref-year=2002}} <!-- Between Human and Machine: Feedback, Control, and Computing Before Cybernetics --></ref>. |
||
В конце войны он подготовил секретный меморандум для Bell Labs под названием «Математическая теория криптографии», датированный сентябрём 1945 |
В конце войны он подготовил секретный меморандум для Bell Labs под названием «Математическая теория криптографии», датированный сентябрём 1945 года. Эта статья была рассекречена и опубликована в 1949 году как «[[#Статья «Теория связи в секретных системах»|Теория связи в секретных системах]]» в Bell System Technical Journal. Не будет преувеличением сказать, что эта статья своим появлением обозначила переход криптографии из искусства в полноценную науку<ref name = stan/>. Шеннон доказал, что криптосистемы [[Шифр Вернама|одноразовых блокнотов]] нерушимы с криптографической точки зрения. Он также доказал, что любая криптографически нерушимая система должна иметь по существу те же характеристики, что и одноразовый блокнот: ключ должен быть выбран случайным образом, причём должен быть столь же большим как открытый текст, а также должен никогда не использоваться повторно полностью или частично, и, конечно, храниться в секрете<ref>{{source|Q1053345|ref=Shannon|ref-year=1949}} <!-- Communication Theory of Secrecy Systems // Bell System Technical Journal --></ref>. Теория связи и криптография развивались одновременно, и «они были так близко друг к другу, что невозможно разделить их»<ref>{{source|Q13479282|pages=744|ref=Kahn|ref-year=1967}} <!-- The Codebreakers: The Story of Secret Writing --></ref>. Шеннон объявил о своём намерении «развивать эти результаты… в предстоящем меморандуме о передаче информации»<ref>quoted in Erico Marui Guizzo, [http://dspace.mit.edu/bitstream/1721.1/39429/1/54526133.pdf "The Essential Message: Claude Shannon and the Making of Information Theory, «] unpublished MS thesis, Massachusetts Institute of Technology, 2003, p. 21. {{wayback|url=http://dspace.mit.edu/bitstream/1721.1/39429/1/54526133.pdf |date=20080528182200 }}</ref>. |
||
=== Послевоенное время === |
=== Послевоенное время === |
||
В 1948 |
В 1948 году обещанный меморандум появился как [[#Статья «Математическая теория связи»|статья „Математическая теория связи“]] в двух частях, соответственно, в июле и октябре в Bell System Technical Journal. Эта работа посвящена проблеме кодирования передаваемой информации. В этой фундаментальной работе Шеннон использовал инструменты теории вероятностей, разработанные [[Винер, Норберт|Норбертом Винером]], которые находились в зарождающейся стадии относительно их применения к теории связи в то время. Также Шеннон ввёл важное определение [[Информационная энтропия|информационной энтропии]] как меры неопределённости информации в сообщениях. Эта статья по сути положила начало такой науке, как [[теория информации]]<ref name = stan/><ref name = jpr/>. |
||
После 1948 |
После 1948 года Шеннон провёл много значимых исследований в теории информации. |
||
Шеннон также занимался изучением теории игр. Он пытался создать всевозможные машины, которые всегда должны были следовать наиболее выигрышным стратегиям. Например, Шеннон занимался разработкой принципов построения шахматных программ (задолго до того, как такие программы начали практически реализовываться специалистами различных стран)<ref>{{Citation |
Шеннон также занимался изучением теории игр. Он пытался создать всевозможные машины, которые всегда должны были следовать наиболее выигрышным стратегиям. Например, Шеннон занимался разработкой принципов построения шахматных программ (задолго до того, как такие программы начали практически реализовываться специалистами различных стран)<ref>{{Citation |
||
Строка 82: | Строка 84: | ||
| publisher = Cambridge University Press |
| publisher = Cambridge University Press |
||
}}</ref>. В конце 1940-х — начале 1950-х годов он предложил две стратегии поиска наилучшего хода в данной позиции. Одна определяла тотальный перебор возможных ходов с построением разветвлённого дерева вариантов, а вторая — использование шахматных знаний для отсечения малоперспективных вариантов<ref name=jpr>{{статья |
}}</ref>. В конце 1940-х — начале 1950-х годов он предложил две стратегии поиска наилучшего хода в данной позиции. Одна определяла тотальный перебор возможных ходов с построением разветвлённого дерева вариантов, а вторая — использование шахматных знаний для отсечения малоперспективных вариантов<ref name=jpr>{{статья |
||
|автор = В.И. Венец |
|автор = В.И. Венец |
||
|заглавие = Памяти Клода шеннона |
|заглавие = Памяти Клода шеннона |
||
|ссылка = http://www.jip.ru/2001/SHANNON.pdf |
|ссылка = http://www.jip.ru/2001/SHANNON.pdf |
||
|язык = ru |
|язык = ru |
||
|издание = Информационные процессы |
|издание = Информационные процессы |
||
|тип = журнал |
|тип = журнал |
||
|год = 2001 |
|год = 2001 |
||
|месяц = |
|месяц = |
||
|число = |
|число = |
||
|том = 1 |
|том = 1 |
||
|номер = 1 |
|номер = 1 |
||
|страницы = 99—10 |
|страницы = 99—10 |
||
|doi = |
|doi = |
||
|issn = |
|issn = |
||
|archivedate = 2018-10-24 |
|||
|archiveurl = https://web.archive.org/web/20181024043007/http://www.jip.ru/2001/SHANNON.pdf |
|||
}}</ref>. |
}}</ref>. |
||
Ещё одной сферой приложений интересов Клода Шеннона в [[теория игр|теории игр]] являлась игра в [[рулетка|рулетку]]. Совместно с [[Торп, Эдвард|Эдом Торпом]], профессором [[Массачусетский технологический институт|MIT]], Шеннон в 1961 |
Ещё одной сферой приложений интересов Клода Шеннона в [[теория игр|теории игр]] являлась игра в [[рулетка|рулетку]]. Совместно с [[Торп, Эдвард|Эдом Торпом]], профессором [[Массачусетский технологический институт|MIT]], Шеннон в 1961 году создал аналоговое вычислительное устройство размером с пачку сигарет, управляемое четырьмя кнопками для ввода информации о скорости вращения колеса рулетки, которое помогало игроку „правильно“ сделать ставку. По утверждению Эда Торпа, это устройство было испытано ими в 1961 году в казино Лас Вегас, обеспечив выигрыш в 44 % (при этом сам факт существования такого устройства авторы хранили в секрете до 1966 года). Некоторые (однако, далеко не все) детали этого устройства были описаны в статье, опубликованной в ''Review of the Statistical Institute, 1969, vol. 37:3''<ref name =jpr/>. |
||
В те же 1950-е годы Шеннон создал машину, которая „читала мысли“ при игре в „монетку“: человек загадывал „орёл“ или „решку“, а машина отгадывала с вероятностью выше 1/2, потому что человек никак не может избежать каких-либо закономерностей, которые машина может использовать<ref name = kiev>{{статья |
В те же 1950-е годы Шеннон создал машину, которая „читала мысли“ при игре в „монетку“: человек загадывал „орёл“ или „решку“, а машина отгадывала с вероятностью выше 1/2, потому что человек никак не может избежать каких-либо закономерностей, которые машина может использовать<ref name = kiev>{{статья |
||
|автор = Сергей Серый |
|автор = Сергей Серый |
||
|заглавие = Клод Элвуд Шеннон |
|заглавие = Клод Элвуд Шеннон |
||
|ссылка = http://book.kbsu.ru/theory/chapter3/shannon.html |
|ссылка = http://book.kbsu.ru/theory/chapter3/shannon.html |
||
|издание = Компьютерные вести |
|издание = Компьютерные вести |
||
|тип = газета |
|тип = газета |
||
|год = 1998 |
|год = 1998 |
||
|номер = 21 |
|номер = 21 |
||
|страницы = |
|страницы = |
||
|doi = |
|doi = |
||
|issn = |
|issn = |
||
|archivedate = 2016-12-04 |
|||
|archiveurl = https://web.archive.org/web/20161204063141/http://book.kbsu.ru/theory/chapter3/shannon.html |
|||
}}</ref>. |
}}</ref>. |
||
С 1950 по 1956 |
С 1950 по 1956 год Шеннон занимался теорией игр, в том числе созданием логических машин, таким образом, продолжая начинания [[Нейман, Джон фон|фон Неймана]] и [[Тьюринг, Алан|Тьюринга]]. В 1952 году Шеннон разработал обучаемую механическую мышку, которая могла находить выход из лабиринта<ref name="Bell Labs acknowledgement">{{cite web|url=http://www.alcatel-lucent.com/wps/portal/!ut/p/kcxml/04_Sj9SPykssy0xPLMnMz0vM0Y_QjzKLd4w39w3RL8h2VAQAGOJBYA!!?LMSG_CABINET=Bell_Labs&LMSG_CONTENT_FILE=News_Features/News_Feature_Detail_000025|archiveurl=https://web.archive.org/web/20120722011711/http://www.alcatel-lucent.com/wps/portal/!ut/p/kcxml/04_Sj9SPykssy0xPLMnMz0vM0Y_QjzKLd4w39w3RL8h2VAQAGOJBYA!!?LMSG_CABINET=Bell_Labs&LMSG_CONTENT_FILE=News_Features%2FNews_Feature_Detail_000025|title=Bell Labs Advances Intelligent Networks|archivedate=2012-07-22|publisher=|accessdate=2019-07-03|deadlink=yes}}</ref>. Также он реализовал шуточную машину „Ultimate Machine“, другое имя которой — „Useless Machine“. Идея этой машины — при переключении выключателя в положение „On“ появляется „палец“, который возвращает этот тумблер в первоначальное положение „Off“<ref name=Pesta>{{cite news|last=Pesta|first=Abigail|title=Looking for Something Useful to Do With Your Time? Don't Try This|url=http://online.wsj.com/article/SB10001424127887323628804578348572687608806.html?KEYWORDS=useless+machine|accessdate=2013-03-14|newspaper=Wall Street Journal|date=2013-03-12|page=1}}</ref>. Дополнительно он построил устройство, которое может собирать [[кубик Рубика]]<ref name="MIT obituary" />. |
||
Шеннон также считается основоположником идеи сжатия информации без потерь и её распаковки. Он разрабатывал теории, которые позволяют убрать всю ненужную избыточность в сообщениях адресанта. Причём, если они отправляются через зашумлённый канал, то всевозможная информация, направленная только на нахождение ошибок при передаче сообщения, может добавиться обратно к сообщению. |
Шеннон также считается основоположником идеи сжатия информации без потерь и её распаковки. Он разрабатывал теории, которые позволяют убрать всю ненужную избыточность в сообщениях адресанта. Причём, если они отправляются через зашумлённый канал, то всевозможная информация, направленная только на нахождение ошибок при передаче сообщения, может добавиться обратно к сообщению. |
||
[[Файл:ClaudeShannon MFO3807.jpg|мини|Клод Шеннон]] |
|||
Шеннон уходит из [[Bell Labs]] в 1956 |
Шеннон уходит из [[Bell Labs]] в 1956 году, но он продолжает консультировать их. Интересуется приложением теории информации к теории игр и к финансовой математике. Он также продолжает работу в [[Массачусетский технологический институт|MIT]] до 1978 года. Шеннон оставил после себя школу учеников. Существовала группа, усердно занимающаяся теорией информации в MIT, которых курировал Шеннон. Студенты видели в нём кумира. Однако Шеннон не преподавал университетские курсы лекций, но довольно часто проводил семинары, на которых он также не любил давать стандартные, изученные им самим вещи. Однако он импровизировал на них и каждый раз получал что-то новое или рассматривал старые задачи с другой, новой стороны<ref name = stan/>. Кстати говоря, Шеннон не любил писать научные статьи по той же самой причине, однако понимал, что это необходимо делать для развития науки<ref name = stan/>. |
||
В конце 1960-х — 1970-е годы он плодотворно занимался финансовой математикой<ref name = stan/>. Сначала он изучал опубликованные данные о пенсионных и других фондах и в итоге собрал электрическую цепь, которая показывала „денежное течение“ в США. Но особенно его заинтересовала [[Портфельная теория Марковица|теория выбора инвестиционного портфеля]]. В этой дисциплине Шеннон вместе с {{нп5|Келли, Джон (математик)|Джоном Келли|en|John L. Kelley}} пытался решить проблему [[Распределение активов|распределения активов]], сущность которой состоит в следующем: „Как лучше всего диверсифицировать инвестиционный портфель при различных возможностях инвестирования“. |
В конце 1960-х — 1970-е годы он плодотворно занимался финансовой математикой<ref name = stan/>. Сначала он изучал опубликованные данные о пенсионных и других фондах и в итоге собрал электрическую цепь, которая показывала „денежное течение“ в США. Но особенно его заинтересовала [[Портфельная теория Марковица|теория выбора инвестиционного портфеля]]. В этой дисциплине Шеннон вместе с {{нп5|Келли, Джон (математик)|Джоном Келли|en|John L. Kelley}} пытался решить проблему [[Распределение активов|распределения активов]], сущность которой состоит в следующем: „Как лучше всего диверсифицировать инвестиционный портфель при различных возможностях инвестирования“. |
||
Выйдя на пенсию в 1978 |
Выйдя на пенсию в 1978 году, Шеннон много времени уделял своему давнему увлечению — жонглированию. Он построил несколько жонглирующих машин и даже создал общую теорию жонглирования (ещё в 1940-х годах он катался, одновременно жонглируя, на одноколёсном велосипеде по коридорам [[Bell Labs]])<ref name = jpr/>. Например, в 1983 году Шеннон сконструировал машину-жонглёра, сделанную буквально из подручных средств, которая была одета так, чтобы быть похожей на [[Филдс, Уильям Клод|Филдса Уильяма]]. Машина умела жонглировать тремя металлическими шариками<ref name = stan>{{source|Q28016159|ref=Golomb, Berlekamp, Cover et al.|ref-year=2002}} <!-- Claude Elwood Shannon (1916—2001) // Notices Amer. Math. Soc. --></ref>. |
||
В 1985 |
В 1985 году Клод Шеннон со своей супругой Бетти посещает Международный симпозиум по теории информации в Брайтоне. Шеннон довольно долго не посещал международные конференции, и сначала его даже не узнали. На банкете Клод Шеннон произнёс короткую речь, пожонглировал тремя мячиками, а затем раздал сотни и сотни автографов изумлённым его присутствием учёным и инженерам, отстоявшим длиннейшую очередь, испытывая трепетные чувства по отношению к великому учёному. Один из участников тогда сказал: „Это было, как если бы сэр [[Ньютон, Исаак|Исаак Ньютон]] появился на конференции по физике“<ref name="Boston college, 'Juggle' magazine">[https://www2.bc.edu/~lewbel/Shannon.html A Personal tribute to Claude Shannon ] {{Wayback|url=https://www2.bc.edu/~lewbel/Shannon.html |date=20160313134235 }}, Boston colledge — Boston college, 'Juggle' magazine, May/June, 2001</ref>. |
||
В 1993 |
В 1993 году выпустил сборник Collected Papers, в которых он собирает 127 написанных им статей с 1938 до 1982 года<ref name = Collected/>. |
||
=== Последние годы жизни === |
=== Последние годы жизни === |
||
У Шеннона развилась [[болезнь Альцгеймера]], и последние несколько лет своей жизни он провёл в доме престарелых в штате Массачусетс. За ним ухаживала вся семья<ref>{{cite web|url=http://www.thocp.net/biographies/shannon_claude.htm|title=Claude Shannon — computer science theory|publisher=}}</ref>. Клод Шеннон ушёл из жизни 24 февраля 2001 |
У Шеннона развилась [[болезнь Альцгеймера]], и последние несколько лет своей жизни он провёл в доме престарелых в штате Массачусетс. За ним ухаживала вся семья<ref>{{cite web|url=http://www.thocp.net/biographies/shannon_claude.htm|title=Claude Shannon — computer science theory|publisher=|access-date=2022-02-22|archive-date=2020-10-30|archive-url=https://web.archive.org/web/20201030224900/http://www.thocp.net/biographies/shannon_claude.htm|url-status=bot: unknown}}</ref>. Клод Шеннон ушёл из жизни 24 февраля 2001 года. Его жена, Мэри Элизабет Мур Шеннон, заявила в своём некрологе, что если бы это не было необходимо для исследования способов лечения болезни Альцгеймера, то „Он был бы смущён“ всем этим<ref name="star ledger">Bell Labs digital guru dead at 84 — Pioneer scientist led high-tech revolution (''[[Star-Ledger|The Star-Ledger]]'', obituary by Kevin Coughlin February 27, 2001)</ref>. |
||
=== Личная жизнь === |
=== Личная жизнь === |
||
27 марта, 1949 |
27 марта, 1949 года, Шеннон женился на Мэри Элизабет Мур Шеннон<ref name =SW>{{cite web|url=http://scienceworld.wolfram.com/biography/Shannon.html|title=Shannon, Claude Elwood (1916—2001) — from Eric Weisstein’s ''World of Scientific Biography''|publisher=|access-date=2016-10-31|archive-date=2016-02-21|archive-url=https://web.archive.org/web/20160221093824/http://scienceworld.wolfram.com/biography/Shannon.html|deadlink=no}}</ref>. Он встретил её, когда она работала аналитиком в [[Bell Labs]]. У Мэри и Клода было трое детей: Роберт Джеймс, Андрю Мур и Маргарита Катерина. |
||
== Статья „Теория связи в секретных системах“ == |
== Статья „Теория связи в секретных системах“ == |
||
Работа Шеннона „[[Теория связи в секретных системах]]“ (1945) с грифом „секретно“, которую рассекретили и опубликовали лишь в 1949 |
Работа Шеннона „[[Теория связи в секретных системах]]“ (1945) с грифом „секретно“, которую рассекретили и опубликовали лишь в 1949 году, послужила началом обширных исследований в теории кодирования (шифрования) и передачи информации. Именно Клод Шеннон впервые начал изучать криптографию, применяя научный подход. В этой статье системы связи описываются с математической стороны и это имело огромный успех в криптографии<ref name = ieeeS/>. |
||
Также в статье Шеннон определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона являются исследования [[Абсолютно стойкая система|абсолютно криптостойких систем]] и доказательство их существования, а также существование криптостойких шифров и требуемые для этого условия<ref name = stan/>. Шеннон также сформулировал основные требования, предъявляемые к надёжным шифрам. Он ввёл ставшие уже привычными понятия рассеивания и перемешивания, а также методы создания криптостойких систем шифрования на основе простых операций. |
Также в статье Шеннон определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона являются исследования [[Абсолютно стойкая система|абсолютно криптостойких систем]] и доказательство их существования, а также существование криптостойких шифров и требуемые для этого условия<ref name = stan/>. Шеннон также сформулировал основные требования, предъявляемые к надёжным шифрам. Он ввёл ставшие уже привычными понятия рассеивания и перемешивания, а также методы создания криптостойких систем шифрования на основе простых операций. |
||
== Статья „Математическая теория связи“ == |
== Статья „Математическая теория связи“ == |
||
Статья „[[Математическая теория связи (статья)|Математическая теория связи]]“ была опубликована в 1948 |
Статья „[[Математическая теория связи (статья)|Математическая теория связи]]“ была опубликована в 1948 году и сделала Клода Шеннона всемирно известным. В ней Шеннон изложил свои идеи, ставшие впоследствии основой современных теорий и техник обработки, передачи и хранения информации. Перед написанием статьи Шеннон ознакомился с работами [[Хартли, Ральф|Хартли]] и [[Найквист, Гарри|Найквиста]]<ref name = stan/>. В статье Шеннон обобщил их идеи, ввёл понятие информации, содержащейся в передаваемых сообщениях. В качестве меры информации передаваемого сообщения <math>M</math>, Хартли и Найквист предлагали использовать логарифмическую функцию <math>I = \log \left( M \right)</math>. |
||
Шеннон разделил системы связи на несколько частей следующим образом<ref name = shamtoc>{{source|Q724029|ref=Shannon|ref-year=1948}} <!-- A mathematical theory of communication // Bell Syst. Tech. J. --></ref>: |
Шеннон разделил системы связи на несколько частей следующим образом<ref name = shamtoc>{{source|Q724029|ref=Shannon|ref-year=1948}} <!-- A mathematical theory of communication // Bell Syst. Tech. J. --></ref>: |
||
Строка 149: | Строка 155: | ||
Шеннон группировал системы связи в три категории: дискретные, непрерывные и смешанные, причём утверждая, что дискретный случай — основа остальных двух, но имеет бо́льшее применение<ref name = miteduart>{{статья |
Шеннон группировал системы связи в три категории: дискретные, непрерывные и смешанные, причём утверждая, что дискретный случай — основа остальных двух, но имеет бо́льшее применение<ref name = miteduart>{{статья |
||
|автор = Eugene Chiu, Jocelyn Lin, Brok Mcferron, Noshirwan Petigara, Satwiksai Seshasa |
|автор = Eugene Chiu, Jocelyn Lin, Brok Mcferron, Noshirwan Petigara, Satwiksai Seshasa |
||
|заглавие = Mathematical Theory of Claude Shannon |
|заглавие = Mathematical Theory of Claude Shannon |
||
|ссылка = http://web.mit.edu/6.933/www/Fall2001/Shannon1.pdf |
|ссылка = http://web.mit.edu/6.933/www/Fall2001/Shannon1.pdf |
||
|язык = en |
|язык = en |
||
|издание = 6.933J / STS.420J The Structure of Engineering Revolutions |
|издание = 6.933J / STS.420J The Structure of Engineering Revolutions |
||
|тип = |
|тип = |
||
|год = 2001 |
|год = 2001 |
||
|archivedate = 2017-02-15 |
|||
|archiveurl = https://web.archive.org/web/20170215045229/http://web.mit.edu/6.933/www/Fall2001/Shannon1.pdf |
|||
}}</ref>. |
}}</ref>. |
||
Строка 203: | Строка 211: | ||
== Награды и почётные звания == |
== Награды и почётные звания == |
||
{{Multicol}} |
{{Multicol}} |
||
{{Multicol-break}} |
|||
* 1939 — {{нп5|Премия им. А. Нобеля|||Alfred Noble Prize}} [[Американский институт инженеров-электриков|AIEE]] |
* 1939 — {{нп5|Премия им. А. Нобеля|||Alfred Noble Prize}} [[Американский институт инженеров-электриков|AIEE]] |
||
* 1949 — [[Премия Морриса Либманна]] [[Институт радиоинженеров|IRE]] |
* 1949 — [[Премия Морриса Либманна]] [[Институт радиоинженеров|IRE]] |
||
Строка 240: | Строка 249: | ||
== Память == |
== Память == |
||
* Астероид [[Список астероидов (18801—18900)|18838 Shannon]] |
* Астероид [[Список астероидов (18801—18900)|18838 Shannon]] |
||
* [[Дудл|Логотип-дудл]] в поисковике Google в честь 100 лет со дня рождения<ref>{{cite news|title=100 лет со дня рождения Клода Шеннона|url=http://www.google.com/doodles/claude-shannons-100th-birthday|accessdate=2016-05-01}}</ref> |
* [[Дудл|Логотип-дудл]] в поисковике Google в честь 100 лет со дня рождения<ref>{{cite news|title=100 лет со дня рождения Клода Шеннона|url=http://www.google.com/doodles/claude-shannons-100th-birthday|accessdate=2016-05-01|archivedate=2016-04-30|archiveurl=https://web.archive.org/web/20160430063353/https://www.google.com/doodles/claude-shannons-100th-birthday}}</ref> |
||
* [[Премия Шеннона]], причём сам Шеннон был первым её лауреатом<ref name=rqc>{{cite web |
* [[Премия Шеннона]], причём сам Шеннон был первым её лауреатом<ref name=rqc>{{cite web |
||
|url = http://www.rqc.ru/news/?ELEMENT_ID=1122 |
|url = http://www.rqc.ru/news/?ELEMENT_ID=1122 |
||
Строка 251: | Строка 260: | ||
|deadlink = yes |
|deadlink = yes |
||
}}</ref> |
}}</ref> |
||
* После |
* После [[Распад Bell System|распада the Bell System]], часть Bell Labs, которая осталась с AT&T Corporation, была названа Shannon Labs в его честь. |
||
* В настоящее время существуют шесть статуй Шеннона<ref>{{cite web|url=http://www.eecs.umich.edu/shannonstatue/|title=Claude Shannon Statue Dedications|publisher=}}</ref>. Эти скульптуры сделаны {{нп5|Доуб, Евгений|Евгением Доубом|en|Eugene Daub}} и находятся по одной: |
* В настоящее время существуют шесть статуй Шеннона<ref>{{cite web|url=http://www.eecs.umich.edu/shannonstatue/|title=Claude Shannon Statue Dedications|publisher=|access-date=2016-10-31|archive-date=2010-07-31|archive-url=https://web.archive.org/web/20100731230211/http://www.eecs.umich.edu/shannonstatue/|deadlink=no}}</ref>. Эти скульптуры сделаны {{нп5|Доуб, Евгений|Евгением Доубом|en|Eugene Daub}} и находятся по одной: |
||
# в Мичиганском Университете |
# в Мичиганском Университете |
||
# в {{нп5|Лаборатория информационных систем и принятия решений|Лаборатории информационных систем и принятия решений|en|MIT Laboratory for Information and Decision Systems}} в Массачусетском технологическом институте |
# в {{нп5|Лаборатория информационных систем и принятия решений|Лаборатории информационных систем и принятия решений|en|MIT Laboratory for Information and Decision Systems}} в Массачусетском технологическом институте |
||
Строка 261: | Строка 270: | ||
== Теория релейно-контактных схем == |
== Теория релейно-контактных схем == |
||
[[Шестаков, Виктор Иванович|Виктор Шестаков]] из [[МГУ]] сформулировал теорию релейно-контактных схем, основанную на Булевой алгебре, в 1935 |
[[Шестаков, Виктор Иванович|Виктор Шестаков]] из [[МГУ]] сформулировал теорию релейно-контактных схем, основанную на Булевой алгебре, в 1935 году, раньше Шеннона. Однако публикация трудов Шестакова состоялась в 1941 году, то есть позже публикаций тезисов Шеннона (1938 год)<ref name="GoogleBook">{{source|Q28171119|ref=Бажанов, Волгин|ref-year=2002}} <!-- В. И. Шестаков и К. Шеннон: судьба одной замечательной идеи // Научно-технический калейдоскоп --></ref><ref name = shest>{{статья |
||
| автор = Б. В. Бирюков, И. С. Верстин, В. И. Левин |
| автор = Б. В. Бирюков, И. С. Верстин, В. И. Левин |
||
| заглавие = Жизненный и научный путь Виктора Ивановича Шестакова — создателя логической теории релейно-контактных схем |
| заглавие = Жизненный и научный путь Виктора Ивановича Шестакова — создателя логической теории релейно-контактных схем |
||
Строка 269: | Строка 278: | ||
== Цитаты о Шенноне == |
== Цитаты о Шенноне == |
||
{{цитата|автор=Джеймс Глеик, [[The New Yorker]]|Весьма дрянным будет сравнение Шеннона с Эйнштейном. Вклад Эйнштейна выглядит устрашающим. Однако |
{{цитата|автор=Джеймс Глеик, [[The New Yorker]]|Весьма дрянным будет сравнение Шеннона с Эйнштейном. Вклад Эйнштейна выглядит устрашающим. Однако мы не живём в веке релятивизма, но в веке информации. Шеннон оставил свой след в каждом цифровом устройстве, которым мы пользуемся, в каждом мониторе, в который мы смотрим, во всех средствах цифровой связи. Он один из тех людей, которые меняют мир настолько, что, после перемен, старый мир становится всеми забыт<ref name=RS>{{статья |
||
|автор = Sionhan Roberts |
|автор = Sionhan Roberts |
||
|заглавие = Claude Shannon, the Father of the Information Age, Turns 1100100 |
|заглавие = Claude Shannon, the Father of the Information Age, Turns 1100100 |
||
|ссылка = http://www.newyorker.com/tech/elements/claude-shannon-the-father-of-the-information-age-turns-1100100 |
|ссылка = http://www.newyorker.com/tech/elements/claude-shannon-the-father-of-the-information-age-turns-1100100 |
||
|язык = en |
|язык = en |
||
|издание = |
|издание = |
||
|тип = журнал [[The New Yorker]] |
|тип = журнал [[The New Yorker]] |
||
|год = 2016 |
|год = 2016 |
||
|месяц = Апрель |
|месяц = Апрель |
||
|число = 30 |
|число = 30 |
||
|archivedate = 2016-10-31 |
|||
|archiveurl = https://web.archive.org/web/20161031185426/http://www.newyorker.com/tech/elements/claude-shannon-the-father-of-the-information-age-turns-1100100 |
|||
}}</ref>.{{oq|en| |
}}</ref>.{{oq|en| |
||
It would be cheesy to compare him to Einstein. Einstein looms large, and rightly so. But we’re not living in the relativity age, we’re living in the information age. It’s Shannon whose fingerprints are on every electronic device we own, every computer screen we gaze into, every means of digital communication. He’s one of these people who so transform the world that, after the transformation, the old world is forgotten. |
It would be cheesy to compare him to Einstein. Einstein looms large, and rightly so. But we’re not living in the relativity age, we’re living in the information age. It’s Shannon whose fingerprints are on every electronic device we own, every computer screen we gaze into, every means of digital communication. He’s one of these people who so transform the world that, after the transformation, the old world is forgotten. |
||
}}}} |
}}}} |
||
Клод Шеннон был больше инженером, чем математиком, и многие его работы имели скорее физическое, чем математическое обоснование. В [[СССР]] работы Шеннона были отнесены к разделам кибернетики, которая считалась тогда „лженаукой мракобесов“. Даже публикация переводов потребовала немалых усилий. Но великий математик [[Андрей Николаевич Колмогоров|А. Н. Колмогоров]] был в восхищении после прочтения работ Шеннона и организовал неформальный семинар, посвящённый идеям Шеннона, в 1954 |
Клод Шеннон был больше инженером, чем математиком, и многие его работы имели скорее физическое, чем математическое обоснование. В [[СССР]] работы Шеннона были отнесены к разделам кибернетики, которая считалась тогда „лженаукой мракобесов“. Даже публикация переводов потребовала немалых усилий. Но великий математик [[Андрей Николаевич Колмогоров|А. Н. Колмогоров]] был в восхищении после прочтения работ Шеннона и организовал неформальный семинар, посвящённый идеям Шеннона, в 1954 году<ref name = stan/>. В предисловии к русскому переводу работ Шеннона А. Н. Колмогоров писал<ref name = jpr/>: {{цитата|автор=Андрей Николаевич Колмогоров|Значение работ Шеннона для чистой математики не сразу было достаточно оценено. Мне вспоминается, что ещё на международном съезде математиков в Амстердаме (1954 г.) мои американские коллеги, специалисты по теории вероятностей, считали мой интерес к работам Шеннона несколько преувеличенным, так как это более техника, чем математика. Сейчас такие мнения вряд ли нуждаются в опровержении. Правда, строгое математическое «обоснование» своих идей Шеннон в сколько-нибудь трудных случаях предоставил своим продолжателям. Однако, его математическая интуиция изумительно точна…}} |
||
== Библиография == |
== Библиография == |
||
Строка 367: | Строка 378: | ||
}} |
}} |
||
* [https://web.archive.org/web/20131029194803/http://infhistory.com/shennon.html Компьютерная история в лицах: Клод Элвуд Шеннон] |
* [https://web.archive.org/web/20131029194803/http://infhistory.com/shennon.html Компьютерная история в лицах: Клод Элвуд Шеннон] |
||
* [http://www.adeptis.ru/vinci/m_part5.html Фотографии] |
* [http://www.adeptis.ru/vinci/m_part5.html Фотографии] {{Wayback|url=http://www.adeptis.ru/vinci/m_part5.html |date=20070226135218 }} |
||
* [https://web.archive.org/web/20130724013039/http://www2.research.att.com/~njas/doc/shannonbib.html Библиография]{{ref-en}} |
* [https://web.archive.org/web/20130724013039/http://www2.research.att.com/~njas/doc/shannonbib.html Библиография]{{ref-en}} |
||
* [http://chernykh.net/content/view/444/656/ Клод Шеннон] |
* [http://chernykh.net/content/view/444/656/ Клод Шеннон] {{Wayback|url=http://chernykh.net/content/view/444/656/ |date=20180106055320 }} |
||
* [https://3dnews.ru/933691?from=related-grid-auto&from-source=951573 Он занимался хакингом реальности»]. Биография и деятельность, научные связи |
* [https://3dnews.ru/933691?from=related-grid-auto&from-source=951573 Он занимался хакингом реальности»] {{Wayback|url=https://3dnews.ru/933691?from=related-grid-auto&from-source=951573 |date=20190107233206 }}. Биография и деятельность, научные связи |
||
{{^}} |
{{^}} |
||
Строка 383: | Строка 394: | ||
[[Категория:Исследователи искусственного интеллекта]] |
[[Категория:Исследователи искусственного интеллекта]] |
||
[[Категория:Учёные в области науки о системах]] |
[[Категория:Учёные в области науки о системах]] |
||
[[Категория:Почётные доктора Йельского университета]] |
|||
[[Категория:Почётные доктора Мичиганского университета]] |
|||
[[Категория:Почётные доктора Принстонского университета]] |
|||
[[Категория:Выпускники Массачусетского технологического института]] |
[[Категория:Выпускники Массачусетского технологического института]] |
||
[[Категория:Выпускники Мичиганского университета]] |
[[Категория:Выпускники Мичиганского университета]] |
||
[[Категория:Преподаватели Инженерной школы Массачусетского технологического института]] |
|||
[[Категория:Преподаватели Массачусетского технологического института]] |
[[Категория:Преподаватели Массачусетского технологического института]] |
||
[[Категория:Члены Национальной академии наук США]] |
[[Категория:Члены Национальной академии наук США]] |
||
[[Категория:Иностранные члены Лондонского королевского общества]] |
[[Категория:Иностранные члены Лондонского королевского общества]] |
||
[[Категория: |
[[Категория:Почётные доктора Пенсильванского университета]] |
||
[[Категория:Почётные доктора Северо-Западного университета]] |
|||
[[Категория:Почётные доктора Университета Тафтса]] |
|||
[[Категория:Математики XX века]] |
|||
[[Категория:Лауреаты премии Харви]] |
[[Категория:Лауреаты премии Харви]] |
||
[[Категория:Награждённые Национальной медалью науки США]] |
[[Категория:Награждённые Национальной медалью науки США]] |
||
Строка 400: | Строка 418: | ||
[[Категория:Умершие от болезни Альцгеймера]] |
[[Категория:Умершие от болезни Альцгеймера]] |
||
[[Категория:Похороненные в Мичигане]] |
[[Категория:Похороненные в Мичигане]] |
||
[[Категория:Лауреаты премии Киото]] |
Текущая версия от 04:24, 13 ноября 2024
Клод Э́лвуд Ше́ннон (англ. Claude Elwood Shannon; 30 апреля 1916, Петоски, Мичиган, США — 24 февраля 2001, Медфорд, Массачусетс, США) — американский инженер, криптоаналитик и математик. Считается «отцом информационного века»[8].
Является основателем теории информации, нашедшей применение в современных высокотехнологических системах связи. Предоставил фундаментальные понятия, идеи и их математические формулировки, которые в настоящее время формируют основу для современных коммуникационных технологий. В 1948 году предложил использовать слово «бит» для обозначения наименьшей единицы информации (в статье «Математическая теория связи»). Кроме того, понятие энтропии было важной особенностью теории Шеннона. Он продемонстрировал, что введённая им энтропия эквивалентна мере неопределённости информации в передаваемом сообщении. Статьи Шеннона «Математическая теория связи» и «Теория связи в секретных системах» считаются основополагающими для теории информации и криптографии[9]. Клод Шеннон был одним из первых, кто подошёл к криптографии с научной точки зрения, он первым сформулировал её теоретические основы и ввёл в рассмотрение многие основные понятия. Шеннон внёс ключевой вклад в теорию вероятностных схем, теорию игр, теорию автоматов и теорию систем управления — области наук, входящие в понятие «кибернетика».
Биография
[править | править код]Детство и юность
[править | править код]Клод Шеннон родился 30 апреля 1916 года в городе Петоски (штат Мичиган, США). Отец его, Клод-старший (1862—1934), был бизнесменом, добившимся успеха своими собственными силами, адвокатом и в течение некоторого времени судьёй. Мать Шеннона, Мейбел Вулф Шеннон (1890—1945), была преподавателем иностранных языков и впоследствии стала директором Гэйлордской средней школы. Отец Шеннона обладал математическим складом ума. Любовь к науке была привита Шеннону его дедушкой. Дед Шеннона был изобретателем и фермером. Он изобрёл стиральную машину наряду с другой полезной в сельском хозяйстве техникой[10]. Томас Эдисон был дальним родственником Шеннонов[11][12].
Первые шестнадцать лет своей жизни Клод провёл в Гэйлорде (Мичиган), где в 1932 году окончил Гэйлордскую общеобразовательную среднюю школу. В юности он работал курьером службы Western Union. Молодой Клод увлекался конструированием механических и автоматических устройств. Он собирал модели самолётов и радиотехнические цепи, создал радиоуправляемую лодку и телеграфную систему между домом друга и своим домом. Временами ему приходилось ремонтировать радиостанции для местного универмага[9].
Шеннон, по собственным словам, был аполитичным человеком и атеистом[13].
Университетские годы
[править | править код]В 1932 году Шеннон был зачислен в Мичиганский университет, где на одном из курсов познакомился с работами Джорджа Буля. В 1936 году Клод окончил Мичиганский университет, получив степень бакалавра по двум специальностям (математик и электротехник), и устроился в Массачусетский технологический институт (MIT), где работал ассистентом-исследователем. Он выполнял обязанности оператора на механическом вычислительном устройстве, аналоговом компьютере, называемом «дифференциальный анализатор», разработанным его научным руководителем Вэниваром Бушем. Изучая сложные, узкоспециализированные электросхемы дифференциального анализатора, Шеннон увидел, что концепции Буля могут получить достойное применение. После того, как он проработал лето 1937 года в Bell Telephone Laboratories, он написал основанную на своей магистерской работе того же года статью «Символический анализ релейных и переключательных схем». Фрэнк Лорен Хичкок[англ.] контролировал магистерскую диссертацию, давал полезные советы и критику. Сама статья была опубликована в 1938 году в издании Американского института инженеров-электриков[англ.] (AIEE)[14][15]. В этой работе Шеннон показал, что переключающиеся схемы могут быть использованы для замены схем с электромеханическими реле, которые использовались тогда для маршрутизации телефонных вызовов. Затем он расширил эту концепцию, показав, что эти схемы могут решить все проблемы, которые позволяет решить Булева алгебра. Также, в последней главе он представляет заготовки нескольких схем, например, 4-разрядного сумматора[15]. За эту статью Шеннон был награждён Премией имени Альфреда Нобеля Американского института инженеров-электриков в 1940 году. Доказанная возможность реализовывать любые логические вычисления в электрических цепях легла в основу проектирования цифровых схем. А цифровые цепи — это, как известно, основа современной вычислительной техники, таким образом, результаты его работ являются одними из наиболее важных научных результатов XX столетия. Говард Гарднер из Гарвардского университета отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия».
По совету Буша Шеннон решил работать над докторской диссертацией по математике в MIT. Буш был назначен президентом Института Карнеги в Вашингтоне и предложил Шеннону принять участие в работе по генетике, которую вела Барбара Беркс. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Сам Шеннон, проведя лето в Вудс Хоул, Массачусетс[англ.], заинтересовался нахождением математического фундамента для законов наследования Менделя. Докторская диссертация Шеннона, получившая название «Алгебра теоретической генетики», была завершена весной 1940 года[16]. Однако эта работа не была выпущена в свет вплоть до 1993 года, пока она не появилась в сборнике Шеннона «Collected Papers». Его исследования могли стать весьма важными в противном случае, но бо́льшая часть этих результатов была получена независимо от него. Шеннон получает докторскую степень по математике и степень магистра по электротехнике. После этого он не возвращался к исследованиям в биологии[17].
Шеннон также был заинтересован в применении математики в информационных системах, таких как системы связи. После очередного лета, проведённого в Bell Labs, в 1940 году Шеннон на один академический год стал научным сотрудником в Институте перспективных исследований в Принстоне, штат Нью-Джерси, США[17]. Там он работал под руководством известного математика Германа Вейля, а также имел возможность обсудить свои идеи с влиятельными учёными и математиками, среди которых был Джон фон Нейман. Он также имел случайные встречи с Альбертом Эйнштейном и Куртом Гёделем. Шеннон свободно работал в различных дисциплинах, и эта способность, возможно, способствовала дальнейшему развитию его математической теории информации[18].
Военное время
[править | править код]Весной 1941 года он возвращается в компанию Bell Labs в рамках контракта с секцией D-2 (секция систем управления) Национального исследовательского комитета обороны США (NDRC), где он проработает до 1956 года. Со вступлением США во Вторую мировую войну Т. Фрай возглавил работу над программой для систем управления огнём для противовоздушной обороны. Шеннон присоединился к группе Фрая и работал над устройствами обнаружения самолётов противника и наведения на них зенитных установок, также он разрабатывал криптографические системы, в том числе и правительственную связь, которая обеспечивала переговоры Черчилля и Рузвельта через океан. Как говорил сам Шеннон, работа в области криптографии подтолкнула его к созданию теории информации.
Также в лаборатории Белл Шеннон, исследуя переключающие цепи, обнаруживает новый метод их организации, который позволяет уменьшить количество контактов реле, необходимых для реализации сложных логических функций. Он опубликовал доклад, названный «Организация двухполюсных переключающих цепей». В конце 1940 года Шеннон получил Национальную научно-исследовательскую премию.
Шеннону приписывают изобретение сигнальных ориентированных графов в 1942 году. Он вывел предельную формулу усиления при исследовании функциональной работы аналогового компьютера[19].
В начале 1943 года Шеннон вступил в контакт с ведущим британским математиком Аланом Тьюрингом. Тьюринг прибыл в Вашингтон, чтобы поделиться с криптоаналитической службой США методами, использующимися тогда в в центре правительственной связи, в Блетчли-парке, чтобы раскрыть шифр, используемый на подводных лодках Кригсмарине в северной части Атлантического океана[20]. Он также заинтересовался шифрованием речи и с этой целью уделил некоторое время «Bell Labs». Шеннон и Тьюринг встретились за чашкой чая[20]. Тьюринг показал Шеннону документ, который теперь известен как «Универсальная машина Тьюринга»[21]. Это впечатлило Шеннона, так как многие из идей Тьюринга дополняли его собственные идеи.
В 1945 году, когда война подходила к концу, Национальный исследовательский комитет обороны США выпускал сводку технических отчётов в качестве последнего шага до своего окончательного закрытия. В нём присутствовало специальное эссе под названием «Усреднение данных и прогнозирование для систем управления огнём» совместного соавторства Шеннона, Ральфа Биба Блэкмена[англ.] и Хендрика Боде[англ.], формально относящееся к проблеме усреднения данных в системах управления огнём по аналогии с «проблемой разделения сигнала от помех в системах связи.» Другими словами, они моделировали эту проблему с точки зрения обработки данных и сигналов и тем самым возвестили приход Информационного Века[22].
В конце войны он подготовил секретный меморандум для Bell Labs под названием «Математическая теория криптографии», датированный сентябрём 1945 года. Эта статья была рассекречена и опубликована в 1949 году как «Теория связи в секретных системах» в Bell System Technical Journal. Не будет преувеличением сказать, что эта статья своим появлением обозначила переход криптографии из искусства в полноценную науку[17]. Шеннон доказал, что криптосистемы одноразовых блокнотов нерушимы с криптографической точки зрения. Он также доказал, что любая криптографически нерушимая система должна иметь по существу те же характеристики, что и одноразовый блокнот: ключ должен быть выбран случайным образом, причём должен быть столь же большим как открытый текст, а также должен никогда не использоваться повторно полностью или частично, и, конечно, храниться в секрете[23]. Теория связи и криптография развивались одновременно, и «они были так близко друг к другу, что невозможно разделить их»[24]. Шеннон объявил о своём намерении «развивать эти результаты… в предстоящем меморандуме о передаче информации»[25].
Послевоенное время
[править | править код]В 1948 году обещанный меморандум появился как статья „Математическая теория связи“ в двух частях, соответственно, в июле и октябре в Bell System Technical Journal. Эта работа посвящена проблеме кодирования передаваемой информации. В этой фундаментальной работе Шеннон использовал инструменты теории вероятностей, разработанные Норбертом Винером, которые находились в зарождающейся стадии относительно их применения к теории связи в то время. Также Шеннон ввёл важное определение информационной энтропии как меры неопределённости информации в сообщениях. Эта статья по сути положила начало такой науке, как теория информации[17][26].
После 1948 года Шеннон провёл много значимых исследований в теории информации.
Шеннон также занимался изучением теории игр. Он пытался создать всевозможные машины, которые всегда должны были следовать наиболее выигрышным стратегиям. Например, Шеннон занимался разработкой принципов построения шахматных программ (задолго до того, как такие программы начали практически реализовываться специалистами различных стран)[27]. В конце 1940-х — начале 1950-х годов он предложил две стратегии поиска наилучшего хода в данной позиции. Одна определяла тотальный перебор возможных ходов с построением разветвлённого дерева вариантов, а вторая — использование шахматных знаний для отсечения малоперспективных вариантов[26].
Ещё одной сферой приложений интересов Клода Шеннона в теории игр являлась игра в рулетку. Совместно с Эдом Торпом, профессором MIT, Шеннон в 1961 году создал аналоговое вычислительное устройство размером с пачку сигарет, управляемое четырьмя кнопками для ввода информации о скорости вращения колеса рулетки, которое помогало игроку „правильно“ сделать ставку. По утверждению Эда Торпа, это устройство было испытано ими в 1961 году в казино Лас Вегас, обеспечив выигрыш в 44 % (при этом сам факт существования такого устройства авторы хранили в секрете до 1966 года). Некоторые (однако, далеко не все) детали этого устройства были описаны в статье, опубликованной в Review of the Statistical Institute, 1969, vol. 37:3[26].
В те же 1950-е годы Шеннон создал машину, которая „читала мысли“ при игре в „монетку“: человек загадывал „орёл“ или „решку“, а машина отгадывала с вероятностью выше 1/2, потому что человек никак не может избежать каких-либо закономерностей, которые машина может использовать[28].
С 1950 по 1956 год Шеннон занимался теорией игр, в том числе созданием логических машин, таким образом, продолжая начинания фон Неймана и Тьюринга. В 1952 году Шеннон разработал обучаемую механическую мышку, которая могла находить выход из лабиринта[29]. Также он реализовал шуточную машину „Ultimate Machine“, другое имя которой — „Useless Machine“. Идея этой машины — при переключении выключателя в положение „On“ появляется „палец“, который возвращает этот тумблер в первоначальное положение „Off“[30]. Дополнительно он построил устройство, которое может собирать кубик Рубика[11].
Шеннон также считается основоположником идеи сжатия информации без потерь и её распаковки. Он разрабатывал теории, которые позволяют убрать всю ненужную избыточность в сообщениях адресанта. Причём, если они отправляются через зашумлённый канал, то всевозможная информация, направленная только на нахождение ошибок при передаче сообщения, может добавиться обратно к сообщению.
Шеннон уходит из Bell Labs в 1956 году, но он продолжает консультировать их. Интересуется приложением теории информации к теории игр и к финансовой математике. Он также продолжает работу в MIT до 1978 года. Шеннон оставил после себя школу учеников. Существовала группа, усердно занимающаяся теорией информации в MIT, которых курировал Шеннон. Студенты видели в нём кумира. Однако Шеннон не преподавал университетские курсы лекций, но довольно часто проводил семинары, на которых он также не любил давать стандартные, изученные им самим вещи. Однако он импровизировал на них и каждый раз получал что-то новое или рассматривал старые задачи с другой, новой стороны[17]. Кстати говоря, Шеннон не любил писать научные статьи по той же самой причине, однако понимал, что это необходимо делать для развития науки[17].
В конце 1960-х — 1970-е годы он плодотворно занимался финансовой математикой[17]. Сначала он изучал опубликованные данные о пенсионных и других фондах и в итоге собрал электрическую цепь, которая показывала „денежное течение“ в США. Но особенно его заинтересовала теория выбора инвестиционного портфеля. В этой дисциплине Шеннон вместе с Джоном Келли[англ.] пытался решить проблему распределения активов, сущность которой состоит в следующем: „Как лучше всего диверсифицировать инвестиционный портфель при различных возможностях инвестирования“.
Выйдя на пенсию в 1978 году, Шеннон много времени уделял своему давнему увлечению — жонглированию. Он построил несколько жонглирующих машин и даже создал общую теорию жонглирования (ещё в 1940-х годах он катался, одновременно жонглируя, на одноколёсном велосипеде по коридорам Bell Labs)[26]. Например, в 1983 году Шеннон сконструировал машину-жонглёра, сделанную буквально из подручных средств, которая была одета так, чтобы быть похожей на Филдса Уильяма. Машина умела жонглировать тремя металлическими шариками[17].
В 1985 году Клод Шеннон со своей супругой Бетти посещает Международный симпозиум по теории информации в Брайтоне. Шеннон довольно долго не посещал международные конференции, и сначала его даже не узнали. На банкете Клод Шеннон произнёс короткую речь, пожонглировал тремя мячиками, а затем раздал сотни и сотни автографов изумлённым его присутствием учёным и инженерам, отстоявшим длиннейшую очередь, испытывая трепетные чувства по отношению к великому учёному. Один из участников тогда сказал: „Это было, как если бы сэр Исаак Ньютон появился на конференции по физике“[31].
В 1993 году выпустил сборник Collected Papers, в которых он собирает 127 написанных им статей с 1938 до 1982 года[12].
Последние годы жизни
[править | править код]У Шеннона развилась болезнь Альцгеймера, и последние несколько лет своей жизни он провёл в доме престарелых в штате Массачусетс. За ним ухаживала вся семья[32]. Клод Шеннон ушёл из жизни 24 февраля 2001 года. Его жена, Мэри Элизабет Мур Шеннон, заявила в своём некрологе, что если бы это не было необходимо для исследования способов лечения болезни Альцгеймера, то „Он был бы смущён“ всем этим[33].
Личная жизнь
[править | править код]27 марта, 1949 года, Шеннон женился на Мэри Элизабет Мур Шеннон[34]. Он встретил её, когда она работала аналитиком в Bell Labs. У Мэри и Клода было трое детей: Роберт Джеймс, Андрю Мур и Маргарита Катерина.
Статья „Теория связи в секретных системах“
[править | править код]Работа Шеннона „Теория связи в секретных системах“ (1945) с грифом „секретно“, которую рассекретили и опубликовали лишь в 1949 году, послужила началом обширных исследований в теории кодирования (шифрования) и передачи информации. Именно Клод Шеннон впервые начал изучать криптографию, применяя научный подход. В этой статье системы связи описываются с математической стороны и это имело огромный успех в криптографии[9].
Также в статье Шеннон определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона являются исследования абсолютно криптостойких систем и доказательство их существования, а также существование криптостойких шифров и требуемые для этого условия[17]. Шеннон также сформулировал основные требования, предъявляемые к надёжным шифрам. Он ввёл ставшие уже привычными понятия рассеивания и перемешивания, а также методы создания криптостойких систем шифрования на основе простых операций.
Статья „Математическая теория связи“
[править | править код]Статья „Математическая теория связи“ была опубликована в 1948 году и сделала Клода Шеннона всемирно известным. В ней Шеннон изложил свои идеи, ставшие впоследствии основой современных теорий и техник обработки, передачи и хранения информации. Перед написанием статьи Шеннон ознакомился с работами Хартли и Найквиста[17]. В статье Шеннон обобщил их идеи, ввёл понятие информации, содержащейся в передаваемых сообщениях. В качестве меры информации передаваемого сообщения , Хартли и Найквист предлагали использовать логарифмическую функцию .
Шеннон разделил системы связи на несколько частей следующим образом[35]:
- Источник информации
- Передатчик
- Канал
- Приёмник
- Пункт назначения
Шеннон группировал системы связи в три категории: дискретные, непрерывные и смешанные, причём утверждая, что дискретный случай — основа остальных двух, но имеет бо́льшее применение[36].
Шеннон первым начал рассматривать передаваемые сообщения и шумы в каналах связи с точки зрения статистики, рассматривая как конечные, так и непрерывные множества сообщений. Шеннон стал рассматривать источник сообщений как множество всех возможных сообщений, а канал — как множество всевозможных шумов[17].
Шеннон ввёл понятие информационной энтропии, аналогичное энтропии из термодинамики, которое является мерой неопределённости информации. Также Шеннон определил бит как количество полученной информации (или уменьшенной энтропии) при нахождении ответа на вопрос, в котором возможны только два варианта ответа (например, „да“ или „нет“), причём оба — с одинаковой вероятностью (если нет — то количество полученной информации будет меньше одного бита)[17].
Первая теорема в его статье описывает связь по зашумлённому каналу следующим образом[36]:
Пусть источник сообщений имеет энтропию (бит на символ), а — пропускная способность канала (бит в секунду). Тогда возможно такое кодирование информации, при котором средняя скорость передачи через данный канал будет равняться символов в секунду, где — сколь угодно малая величина. Дополнительно, средняя скорость передачи данных не может быть больше
Главная идея этой теоремы состоит в том, что количество информации, которое возможно передать, зависит от энтропии или, другими словами, случайности сообщений источника. Следовательно, основываясь на статистической характеристике источника сообщений, возможно кодировать информацию так, чтобы достичь максимальную скорость, которую позволяет достичь канал, то есть желаемую пропускную способность канала. Это было революционное утверждение, так как инженеры ранее полагали, что максимум информации исходного сигнала, которое можно передать через среду, зависит от таких факторов, как, например, частота, но никак не свойства сигнала[36].
Вторая теорема Шеннона описывает связь в зашумлённом канале. Шеннон утверждает[36]:
Пусть источник сообщений имеет энтропию на одну секунду, а — пропускная способность канала. Если , то возможно такое кодирование информации, при котором данные источника будут переданы через канал со сколь угодно малым количеством ошибок. Если , то возможно кодирование, при котором неоднозначность полученной информации будет меньше, чем , где — сколь угодно малая величина. Дополнительно, не существует методов кодирования, которые дадут неоднозначность меньше чем .
Идея, которую высказал Шеннон, заключается в том, что не важно, как „шумит“ канал, всё равно существует способ кодирования, позволяющий безошибочно передать информацию через канал (пока выполняется ). И эта идея является революционной, поскольку люди до этого считали, что существует какой-то порог значения шума в канале, что передача желаемой информации становится невозможна[36].
Он вывел формулу для скорости передачи информации источником сообщений и для пропускной способности канала , размерность каждой скорости — бит в секунду. Как следствие из предыдущей теоремы верно следующее утверждение:
Пусть — скорость передачи информации источником сообщений, а — пропускная способность канала. Тогда , и что возможно такое кодирование информации, при котором количество ошибочных бит в единицу времени[англ.] будет меньше любой заранее выбранной положительной константы . В его доказательстве фигурирует множество всевозможных кодирований сообщений источника в потоки бит, и он показал, что случайно выбранное из этого множества кодирование будет обладать желаемым указанным выше свойством с высокой вероятностью[17]
.
Другими словами: любой канал с шумом характеризуется максимальной скоростью передачи информации, этот предел назван в честь Шеннона. При передаче информации со скоростями, превышающими этот предел, происходят неизбежные искажения данных, но снизу к этому пределу можно приближаться с необходимой точностью, обеспечивая сколь угодно малую вероятность ошибки передачи информации в зашумлённом канале.
После опубликования этой статьи учёные старались найти такие кодирования, которые работают так же хорошо, как и „случайное кодирование Шеннона“[17]. Конечно же, в настоящее время существуют кодирования, дающие пропускную способность, близкую к пределу Шеннона.
Развитая Шенноном теория информации помогла решить главные проблемы, связанные с передачей сообщений, а именно: устранить избыточность передаваемых сообщений, произвести кодирование и передачу сообщений по каналам связи с шумами. Решение проблемы избыточности подлежащего передаче сообщения позволяет максимально эффективно использовать канал связи. К примеру, современные повсеместно используемые методы снижения избыточности в системах телевизионного вещания на сегодняшний день позволяют передавать до шести цифровых программ телевидения в полосе частот, которую занимает обычный сигнал аналогового телевидения[37].
Решение проблемы передачи сообщения по каналам связи с шумами при заданном соотношении мощности полезного сигнала к мощности сигнала помехи в месте приёма позволяет передавать по каналу связи сообщения со сколь угодно малой вероятностью ошибочной передачи. Также, это отношение определяет пропускную способность канала. Это обеспечивается применением кодов, устойчивых к помехам, при этом скорость передачи сообщений по данному каналу должна быть ниже его пропускной способности[37].
В своих работах Шеннон доказал принципиальную возможность решения обозначенных проблем, это явилось в конце 1940-х годов настоящей сенсацией в научных кругах. Данная работа, как и работы, в которых исследовалась потенциальная помехоустойчивость, дали начало огромному числу исследований, продолжающихся и по сей день, уже более полувека. Учёные из СССР и США (СССР — Пинскер, Хинчин, Добрушин, Колмогоров; США — Галлагер, Вольфовиц[англ.], Файнстейн) дали строгую трактовку изложенной Шенноном теории[37].
На сегодняшний день все системы цифровой связи проектируются на основе фундаментальных принципов и законов передачи информации, разработанных Шенноном. В соответствии с теорией информации, вначале из сообщения устраняется избыточность, затем информация кодируется при помощи кодов, устойчивых к помехам, и лишь потом сообщение передаётся по каналу потребителю. Именно благодаря теории информации была значительно сокращена избыточность телевизионных, речевых и факсимильных сообщений[37].
Большое количество исследований было посвящено созданию кодов, устойчивых к помехам, и простых методов декодирования сообщений. Исследования, проведённые за последние пятьдесят лет, легли в основу созданной Рекомендации МСЭ по применению помехоустойчивого кодирования и методов кодирования источников информации в современных цифровых системах[37].
Теоремы Шеннона
[править | править код]В теории информации, по традиции, утверждения типа „для любого кода имеет место некоторое свойство“ называются обратными теоремами, а утверждения типа „Существует код с заданным свойством“ — прямыми теоремами[38].
- Прямая и обратная теоремы Шеннона для источника общего вида — о связи энтропии источника и средней длины сообщений.
- Прямая и обратная теоремы Шеннона для источника без памяти — о связи энтропии источника и достижимой степени сжатия с помощью кодирования с потерями и последующего неоднозначного декодирования.
- Прямая и обратная теоремы Шеннона для канала с шумами — о связи пропускной способности канала и существования кода, который возможно использовать для передачи с ошибкой, стремящейся к нулю (при увеличении длины блока).
- Теорема Найквиста — Шеннона (в русскоязычной литературе — теорема Котельникова) — об однозначном восстановлении сигнала по его дискретным отсчётам.
- Теорема Шеннона об источнике шифрования (или теорема бесшумного шифрования) устанавливает предел максимального сжатия данных и числовое значение энтропии Шеннона.
- Теорема Шеннона — Хартли, позволяющая найти пропускную способность канала, означающую теоретическую верхнюю границу скорости передачи данных.
Награды и почётные звания
[править | править код]
|
|
Память
[править | править код]- Астероид 18838 Shannon
- Логотип-дудл в поисковике Google в честь 100 лет со дня рождения[39]
- Премия Шеннона, причём сам Шеннон был первым её лауреатом[40]
- После распада the Bell System, часть Bell Labs, которая осталась с AT&T Corporation, была названа Shannon Labs в его честь.
- В настоящее время существуют шесть статуй Шеннона[41]. Эти скульптуры сделаны Евгением Доубом[англ.] и находятся по одной:
- в Мичиганском Университете
- в Лаборатории информационных систем и принятия решений[англ.] в Массачусетском технологическом институте
- в Гэйлорде, Мичиган
- в Университете Калифорнии, Сан-Диего
- в Bell Labs
- в AT&T Shannon Labs[англ.].
Теория релейно-контактных схем
[править | править код]Виктор Шестаков из МГУ сформулировал теорию релейно-контактных схем, основанную на Булевой алгебре, в 1935 году, раньше Шеннона. Однако публикация трудов Шестакова состоялась в 1941 году, то есть позже публикаций тезисов Шеннона (1938 год)[42][43].
Цитаты о Шенноне
[править | править код]Весьма дрянным будет сравнение Шеннона с Эйнштейном. Вклад Эйнштейна выглядит устрашающим. Однако мы не живём в веке релятивизма, но в веке информации. Шеннон оставил свой след в каждом цифровом устройстве, которым мы пользуемся, в каждом мониторе, в который мы смотрим, во всех средствах цифровой связи. Он один из тех людей, которые меняют мир настолько, что, после перемен, старый мир становится всеми забыт[44].
Оригинальный текст (англ.)It would be cheesy to compare him to Einstein. Einstein looms large, and rightly so. But we’re not living in the relativity age, we’re living in the information age. It’s Shannon whose fingerprints are on every electronic device we own, every computer screen we gaze into, every means of digital communication. He’s one of these people who so transform the world that, after the transformation, the old world is forgotten.
Джеймс Глеик, The New Yorker
Клод Шеннон был больше инженером, чем математиком, и многие его работы имели скорее физическое, чем математическое обоснование. В СССР работы Шеннона были отнесены к разделам кибернетики, которая считалась тогда „лженаукой мракобесов“. Даже публикация переводов потребовала немалых усилий. Но великий математик А. Н. Колмогоров был в восхищении после прочтения работ Шеннона и организовал неформальный семинар, посвящённый идеям Шеннона, в 1954 году[17]. В предисловии к русскому переводу работ Шеннона А. Н. Колмогоров писал[26]:
Значение работ Шеннона для чистой математики не сразу было достаточно оценено. Мне вспоминается, что ещё на международном съезде математиков в Амстердаме (1954 г.) мои американские коллеги, специалисты по теории вероятностей, считали мой интерес к работам Шеннона несколько преувеличенным, так как это более техника, чем математика. Сейчас такие мнения вряд ли нуждаются в опровержении. Правда, строгое математическое «обоснование» своих идей Шеннон в сколько-нибудь трудных случаях предоставил своим продолжателям. Однако, его математическая интуиция изумительно точна…Андрей Николаевич Колмогоров
Библиография
[править | править код]- Shannon C. E. A symbolic analysis of relay and switching circuits (англ.). — 1938.
- Shannon C. E. An Algebra for Theoretical Genetics (англ.). — 1940.
- Shannon C. E. Communication Theory of Secrecy Systems (англ.) // Bell System Technical Journal. — 1949.
- Shannon C. E. A Mathematical Theory of Communication // Bell System Technical Journal. — 1948. — Т. 27. — С. 379—423, 623—656.
- Shannon C. E. Communication in the presence of noise // Proc. Institute of Radio Engineers. — Jan. 1949. — Т. 37, № 1. — С. 10—21. Архивировано 8 февраля 2010 года.
- Шеннон К. Работы по теории информации и кибернетике. — М.: Издательство иностранной литературы, 1963. — 830 с.
См. также
[править | править код]Примечания
[править | править код]- ↑ 1 2 3 Архив по истории математики Мактьютор — 1994.
- ↑ 1 2 C.E. Shannon // KNAW Past Members (англ.)
- ↑ 1 2 MIT Professor Claude Shannon dies; was founder of digital communications — Массачусетский технологический институт, 2001.
- ↑ English Wikipedia community Wikipedia (англ.) — 2001.
- ↑ 1 2 3 NNDB (англ.) — 2002.
- ↑ 1 2 https://books.google.cat/books?id=r3GYDwAAQBAJ&pg=PA38 — С. 38.
- ↑ Архив по истории математики Мактьютор — 1994.
- ↑ James I., James I. Claude Elwood Shannon 30 April 1916 -- 24 February 2001 (англ.) // Biographical Memoirs of Fellows of the Royal Society / J. T. Stuart — The Royal Society, 2009. — Vol. 55, Iss. 0. — P. 257—265. — ISSN 0080-4606; 1748-8494 — doi:10.1098/RSBM.2009.0015
- ↑ 1 2 3 Gallager R. G. Claude E. Shannon: A Retrospective on His Life, Work, and Impact (англ.) // IEEE Transactions on Information Theory / F. Kschischang — IEEE, 2001. — Vol. 47, Iss. 7. — P. 2681—2695. — ISSN 0018-9448; 1557-9654 — doi:10.1109/18.959253
- ↑ Claude Shannon . nyu.edu. Дата обращения: 10 сентября 2014. Архивировано 8 апреля 2020 года.
- ↑ 1 2 MIT Professor Claude Shannon dies; was founder of digital communications . MIT — News office, Cambridge, Massachusetts. Дата обращения: 27 февраля 2001. Архивировано 27 сентября 2004 года.
- ↑ 1 2 Shannon C. E. Collected Papers / Edited by N.J.A Sloane and Aaron D. Wyner. — IEEE press, 1993. — 923 с. — ISBN 0-7803-0434-9.
- ↑ «…Shannon described himself as an atheist and was outwardly apolitical…»
Poundstone W. Fortune's Formula (англ.): The Untold Story of the Scientific Betting System — Macmillan Publishers, 2010. — P. 18. — ISBN 978-0-374-70708-8 - ↑ Shannon C. A Symbolic Analysis of Relay and Switching Circuits (англ.) // Transactions of the American Institute of Electrical Engineers — IEEE, 1938. — Vol. 57, Iss. 12. — P. 713–723. — ISSN 0096-3860; 2330-9431 — doi:10.1109/T-AIEE.1938.5057767
- ↑ 1 2 Claude Shannon, "A Symbolic Analysis of Relay and Switching Circuits, " Архивная копия от 1 октября 2016 на Wayback Machine unpublished MS Thesis, Massachusetts Institute of Technology, August 10, 1937.
- ↑ C. E. Shannon, «An algebra for theoretical genetics», (Ph.D. Thesis, Massachusetts Institute of Technology, 1940), MIT-THESES//1940-3 [1]Архивная копия от 8 января 2009 на Wayback Machine Online text at MIT — Contains a biography on pp. 64-65.
- ↑ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 Golomb S. W., Berlekamp E. R., Cover T. M., Gallager R. G., Massey J., Viterbi A. Claude Elwood Shannon (1916–2001) (англ.) // Notices of the American Mathematical Society / F. Morgan — AMS, 2002. — Vol. 49, Iss. 1. — P. 8—16. — ISSN 0002-9920; 1088-9477
- ↑ Erico Marui Guizzo, «The Essential Message: Claude Shannon and the Making of Information Theory Архивная копия от 1 декабря 2016 на Wayback Machine» (M.S. Thesis, Massachusetts Institute of Technology, Dept. of Humanities, Program in Writing and Humanistic Studies, 2003), 14.
- ↑ Okrent, Howard; McNamee, Lawrence P. 3. 3 Flowgraph Theory // NASAP-70 User's and Programmer's manual (неопр.). — Los Angeles, California: School of Engineering and Applied Science, University of California at Los Angeles, 1970. — С. 3—9.
- ↑ 1 2 Hodges A. Alan Turing: The Enigma (англ.) — London: Vintage Books, 1992. — P. 243–252. — 586 p. — ISBN 978-0-09-911641-7
- ↑ Turing A. On Computable Numbers, with an Application to the Entscheidungsproblem (англ.) // Proceedings of the London Mathematical Society — London Mathematical Society, 1937. — Vol. s2-42, Iss. 1. — P. 230—265. — ISSN 0024-6115; 1460-244X; 0024-6115 — doi:10.1112/PLMS/S2-42.1.230
- ↑ Mindell D. A. Between Human and Machine (англ.): Feedback, Control, and Computing Before Cybernetics — Baltimore: JHU Press, 2002. — P. 319—320. — 439 p. — (Johns Hopkins Studies in the History of Technology) — ISBN 978-0-8018-6895-5 — ISSN 2470-2773
- ↑ Shannon C. Communication Theory of Secrecy Systems (англ.) // Bell System Technical Journal — Short Hills: 1949. — Vol. 28, Iss. 4. — P. 656—715. — ISSN 0005-8580; 2376-7154 — doi:10.1002/J.1538-7305.1949.TB00928.X
- ↑ Kahn D. The Codebreakers (англ.): The Story of Secret Writing — Macmillan, 1967. — P. 744. — 1164 p. — ISBN 978-0-684-83130-5
- ↑ quoted in Erico Marui Guizzo, "The Essential Message: Claude Shannon and the Making of Information Theory, « unpublished MS thesis, Massachusetts Institute of Technology, 2003, p. 21. Архивная копия от 28 мая 2008 на Wayback Machine
- ↑ 1 2 3 4 5 В.И. Венец. Памяти Клода шеннона // Информационные процессы : журнал. — 2001. — Т. 1, № 1. — С. 99—10. Архивировано 24 октября 2018 года.
- ↑ Hamid Reza Ekbia (2008), Artificial dreams: the quest for non-biological intelligence, Cambridge University Press, p. 46, ISBN 978-0-521-87867-8
- ↑ Сергей Серый. Клод Элвуд Шеннон // Компьютерные вести : газета. — 1998. — № 21. Архивировано 4 декабря 2016 года.
- ↑ Bell Labs Advances Intelligent Networks . Дата обращения: 3 июля 2019. Архивировано из оригинала 22 июля 2012 года.
- ↑ Pesta, Abigail (2013-03-12). "Looking for Something Useful to Do With Your Time? Don't Try This". Wall Street Journal. p. 1. Дата обращения: 14 марта 2013.
- ↑ A Personal tribute to Claude Shannon Архивная копия от 13 марта 2016 на Wayback Machine, Boston colledge — Boston college, 'Juggle' magazine, May/June, 2001
- ↑ Claude Shannon — computer science theory . Дата обращения: 22 февраля 2022. Архивировано 30 октября 2020 года.
- ↑ Bell Labs digital guru dead at 84 — Pioneer scientist led high-tech revolution (The Star-Ledger, obituary by Kevin Coughlin February 27, 2001)
- ↑ Shannon, Claude Elwood (1916—2001) — from Eric Weisstein’s World of Scientific Biography . Дата обращения: 31 октября 2016. Архивировано 21 февраля 2016 года.
- ↑ Shannon C. E. A mathematical theory of communication (англ.) // Bell System Technical Journal — Short Hills: 1948. — Vol. 27, Iss. 3. — P. 379—423. — ISSN 0005-8580; 2376-7154 — doi:10.1002/J.1538-7305.1948.TB01338.X; doi:10.1002/J.1538-7305.1948.TB00917.X
- ↑ 1 2 3 4 5 Eugene Chiu, Jocelyn Lin, Brok Mcferron, Noshirwan Petigara, Satwiksai Seshasa. Mathematical Theory of Claude Shannon (англ.) // 6.933J / STS.420J The Structure of Engineering Revolutions. — 2001. Архивировано 15 февраля 2017 года.
- ↑ 1 2 3 4 5 М.А. Быховский. Пионеры информационного века. История развития теории связи. выпуск 4. — Эко-Трендз, 2006. — («История электросвязи и радиотехники»).
- ↑ Габидулин Э. М., Пилипчук Н. И. Лекции по теории информации — МФТИ, 2007. — 214 с. — ISBN 978-5-7417-0197-3
- ↑ "100 лет со дня рождения Клода Шеннона". Архивировано 30 апреля 2016. Дата обращения: 1 мая 2016.
- ↑ Исследователь РКЦ Александр Холево удостоен престижной международной награды – премии Шеннона . Российский квантовый центр (21 июня 2015). Дата обращения: 22 июня 2015. Архивировано из оригинала 23 июня 2015 года.
- ↑ Claude Shannon Statue Dedications . Дата обращения: 31 октября 2016. Архивировано 31 июля 2010 года.
- ↑ Бажанов В. А., Волгин Л. И. В. И. Шестаков и К. Шеннон: судьба одной замечательной идеи // Научно-технический калейдоскоп — 2002. — вып. 2. — С. 43—48.
- ↑ Б. В. Бирюков, И. С. Верстин, В. И. Левин. Жизненный и научный путь Виктора Ивановича Шестакова — создателя логической теории релейно-контактных схем. — РФФИ, проект № 05-06-80382. — С. 20—22.
- ↑ Sionhan Roberts. Claude Shannon, the Father of the Information Age, Turns 1100100 (англ.) : журнал The New Yorker. — 2016. — 30 Апрель. Архивировано 31 октября 2016 года.
Ссылки
[править | править код]- Компьютерная история в лицах: Клод Элвуд Шеннон
- Фотографии Архивная копия от 26 февраля 2007 на Wayback Machine
- Библиография (англ.)
- Клод Шеннон Архивная копия от 6 января 2018 на Wayback Machine
- Он занимался хакингом реальности» Архивная копия от 7 января 2019 на Wayback Machine. Биография и деятельность, научные связи
- Родившиеся 30 апреля
- Родившиеся в 1916 году
- Родившиеся в Петоски
- Умершие 24 февраля
- Умершие в 2001 году
- Умершие в Медфорде (Массачусетс)
- Преподаватели Массачусетского технологического института
- Выпускники Мичиганского университета
- Выпускники Массачусетского технологического института
- Награждённые Национальной медалью науки США
- Персоналии по алфавиту
- Учёные по алфавиту
- Математики США
- Теория информации
- Криптографы США
- Кибернетики США
- Пионеры компьютерной техники
- Исследователи искусственного интеллекта
- Учёные в области науки о системах
- Почётные доктора Йельского университета
- Почётные доктора Мичиганского университета
- Почётные доктора Принстонского университета
- Преподаватели Инженерной школы Массачусетского технологического института
- Члены Национальной академии наук США
- Иностранные члены Лондонского королевского общества
- Почётные доктора Пенсильванского университета
- Почётные доктора Северо-Западного университета
- Почётные доктора Университета Тафтса
- Математики XX века
- Лауреаты премии Харви
- Награждённые медалью почёта IEEE
- Персоналии:Компьютерные шахматы
- Электротехники США
- Сотрудники Bell Labs
- Лауреаты премии Шеннона
- Лауреаты премии Гарольда Пендера
- Лауреаты премии Морриса Либманна
- Умершие от болезни Альцгеймера
- Похороненные в Мичигане
- Лауреаты премии Киото