Ричард Хэмминг і почав теорії кодування

Ричард Хэмминг і почав теорії кодирования

Марк Быховский Человек — винахідник і творець. Моральна совість людини мусить щомиті життя виявляти творчість і изобретательность.

Николай Бердяев.

Введение

В книзі Стефана Цвейга «Зоряні годинник людства» є чудовий розповідь «Геній однієї ночі» про офіцера французької армії Руже де Лиле, написав протягом одного ночі під час що охопила його натхнення знамениту «Марсельєзу». Це був у 1792 р. в революційному Марселі. Пісня протягом днів поширилася Францією, швидко придбала колосальну популярність в усьому світу і згодом стало національною гімном Французької Республіки. Історія зберегла ім'я Руже у пам’яті потомства завдяки цієї єдиною песне.

По аналогії Річарда Хэмминга може бути «генієм однієї ідеї». Він сформулював їх у 1950 р. у своїй єдиною наукової статті, присвяченого кодам для корекції помилок. Стаття містила конструкцію блокового коду, коригувального одиночні помилки, які виникають під час передачі сообщений.

Ричард Хэмминг постійно вів активні наукових досліджень, проте знаменитої стала його єдина праця на ниві теорії інформації, складова зі свого обсягу незначний відсоток його наукового творчості. Це стаття швидко отримала світову відомість і принесла йому заслужену славу.

Подобно тому, як за відкриттями Фарадея і Максвелла пішли численні винаходи у сфері електрозв’язку, змінили життя, і після створення Клодом Шенноном теорії інформації та Володимиром Котельниковым теорії потенційної помехоустойчивости відкрилися б нові можливості для телекомунікацій. Одне з найважливіших розділів теорії інформації є теорія кодування, основи яку було закладено Хэммингом.

Шеннон встановив, що у каналу зв’язку інформація може передаватися безпомилково у цьому разі, якщо швидкість передачі вбирається у його пропускну здатність. Проте доказ Шеннона мало неконструктивний характер. Пізніші його дослідження та іншого американського вченого З. Про. Райса показали, що практично будь-який випадково обраний код дозволяє досягти теоретичного краю помехоустойчивости прийому повідомлень. Але такий код мав високу складність декодування: кількість операцій, необхідні декодування прийнятої кодовою комбінації, зростав експоненціально зростанню його длины.

Хэмминг був першим, хто запропонував конструктивний метод побудови кодів з надмірністю і простим декодированием. Його праці визначив напрям більшості робіт у цій галузі, наступних позже.

Краткая биография

Ричард Весли Хэмминг народився 11 лютого 1915 р. у Чікаґо. 1937;го закінчив Чиказький університет і вже отримав ступінь бакалавра. Він продовжив освіту у університеті штату Небраска, де у 1939 р. їй привласнити наступна — магістерська ступінь. У 1942 р. Річард став доктором філософії у сфері математики університеті штату Иллинойс.

В 1945;му Хэмминг брав участь у знаменитому Манхеттенському дослідницькому проекті, метою якого треба було створення атомної бомбы.

А з 1946 р. в лабораторії Белла він починає займатися конструюванням комп’ютерів. У цьому вся знаменитому центрі, де трудилися До. Шеннон і ще видатні вчені, йому судилося було пропрацювати майже тридцять лет.

В 1976 р. Річард переїжджає до міста Монтеррей (прим. Каліфорнія) і очолює наукові дослідження у сфері обчислювальної техніки у Вищому військово-морському училище. У цьому вся училище він викладав і писав книжки з теорії ймовірностей і комбинаторике.

Пионерская робота Хэмминга відзначено багатьма нагородами. У році він став почесним членом Інституту інженерів по електротехніці і електроніці (IEEE) і він нагороджений премією Тьюринга Асоціації комп’ютерних технологій. За винятковий внесок у розвиток інформаційних наук і систем 1979 р. йому присуджено премію Еммануїла Пиоре. 1980;го його членом Національної Академії інженерних наук, 1981;го він отримав премію Гарольда Пендера від Пенсільванського університету, а 1988;го — почесну медаль IEEE. У 1996 р. в Мюнхені до праці по кодам, коригувальним помилки, Хэмминг удостоївся престижної премії Едуарда Рейма у вигляді $ 130 000.

Скончался Річард Хэмминг 7 січня 1998 року у віці 82 лет.

В його честь Інститут інженерів по електротехніці і електроніці заснував медаль, якої нагороджуються вчені, що зробили значний внесок у теорію информации.

Работы, заклали основи теорії кодирования

Коды, здатні коригувати помилки (в каналах зв’язку в цифрових обчислювальних машинах тощо. п.) при обробці сигналів, було запропоновано Хэммингом ще до його 1948 р., коли опубліковано знаменита стаття Шеннона «Математична теорія зв’язку», заложившая міцну основу теорії у цій области.

В цій статті Шеннон, посилаючись на можливість дослідження, виконане 1947 р. його товаришем по службі по лабораторії Белла Річардом Хэммингом, описав у як приклад простий код довжини 7, коригувальний все одиночні помилки. Публікація ж оригінального матеріалу Хэмминга по патентним міркувань було затримано до квітня 1950;го. Слід зазначити, що приклад коригувального помилки коду, наведений в статті Шеннона, ініціював дослідження іншого американського вченого, М. Є. Голея. Голей незалежно від Хэмминга відкрив коди, коригувальні одиночні помилки. У 1949 р. (т. е. раніше Хэмминга) він опублікував коротку замітку (всього на півсторінки) про своє результатах в Працях IЕЕE. У цьому замітці він розглянув як бінарні коди, а й коди загального виду, комбінації яких належать кінцевому полю (математичного безлічі елементів з деякими операціями складання, вирахування, ділення клітин і множення) з рn елементами (р — просте, а n — ціле число).

Надо відзначити, що кілька основних ідей теорії зв’язку був відомий у ролі приватних математичних результатів ще доти, як його почали застосовувати вчені, розв’язують проблему передачі повідомлень каналами телефонного зв’язку. У книжці «Алгебраїчна теорія кодування» великий американський фахівець у галузі теорії кодування Еге. Берлекамп зробив дуже цікава зауваження. Він сказав, що конструкція кодів Хэмминга було описано будь-якому іншому контексті ще 1942 р. відомим американським математиком Р. А. Фішером, у роботі присвяченій теорії факторного аналізу (однієї з розділів математичної статистики) і її через відкликання математичної теорією груп. До речі, теорема У. А. Котельникова, яка вказує до можливості уявлення аналогових сигналів в цифровому вигляді, також було відкрита одностайно з приватних математичних результатів теорії інтерполяції функції ще початку сучасності англійськими математиками Є. Т. і Дж. М. Уиткерами. Слід сказати, що Фішер, ні згадані англійські вчені не пов’язували результати з найважливішими сучасного світу проблемами передачі каналами связи.

Вольфганг Гете говорив: «Недосить лишень отримати знання; треба знайти йому додаток. Недосить лишень бажати; треба робити». Для теорії та техніки зв’язку теорема Котельникова і коди Хэмминга мають виняткового значення, оскільки завдяки їм перед інженерами відкрилася ясна перспектива створення цифрових систем, які наприкінці сучасності справили революцію у електрозв’язку і тому їх цілком обгрунтовано називають іменами цих учёных.

Став каталізатором, який прискорив розвиток теорії кодування, стаття Хэмминга звернула він увагу наукової громадськості. В усіх життєвих підручниках цей клас кодів називають кодами Хэмминга і виклад теорії кодування починають із описи їх конструкції. Очевидно, усе ж таки було б справедливішим ці коди називати кодами Хэмминга — Голея, враховуючи, що Голей дійшов тим самим ідеям, як і Хэмминг, незалежно і опублікував їх раніше. Те, що його стаття не викликала себе уваги, швидше за все, є волею случая.

По порівнянню з теорією Шеннона коди, запроваджені Хэммингом, були разочаровывающе слабкі. Проте запропоновані Хэммингом регулярні методи побудови кодів, коригувальних помилки, мали фундаментальне значення. Вони продемонстрували інженерам практичну можливість досягти тих меж, яку вказували закони теорії інформації. Ці коди знайшли практичне застосування під час створення комп’ютерних систем. Стаття Хэмминга привела також вирішення проблеми більш щільною упаковки для кінцевих полів. Він увів у науковий обіг найважливіші поняття теорії кодування — відстань Хэмминга між кодовими комбінаціями в векторном просторі, визначеному для двійкових кодів як збільшується кількість позицій цих комбінацій з різними символами, та невидимі кордони Хэмминга для що виправлятиме здібності блокових коригувальних кодів. Кордон Хэмминга для двійкових кодів розраховується за наступній формуле:

В цьому вираженні кількість помилок e може бути виправлено коригувальним блоковим кодом довжиною N, у яких М кодових комбінацій (CjN — біноміальний коэффициент).

Работа Хэмминга зіграла ключову роль наступному розвитку теорії кодування і стимулювала великі дослідження, виконані наступні роки. У 1956 р. Давид Слепян першим виклав теорію кодів з перевіркою парності на серйозної математичної основі. Головний зрушення у сфері теорії кодування стався, коли французький учений А. Хоквингем (1959 р.) і самі американці Р. До. Боуз і Д. До. Рой-Чоудхури (1960 р.) знайшли великий клас кодів (коди БЧХ), які виправляють кратні помилки. Американські дослідники І. З. Рід і Р. Соломон (1960 р.) знайшли пов’язані з кодами БЧХ клас кодів для недвоичных каналов.

В 1980 р. Хэмминг написав блискучий підручник «Теорія кодування і теорія інформації», що у 1983 р. було переведено російською мовою. Ця книга була, як і про його праці, відрізняє оригінальність постановки питань, популярність викладу, глибоке розуміння практичних завдань, коректність розумна ступінь суворості математичної трактування порушених питань. Переказ матеріалу побудовано в такий спосіб, що читачеві інтуїтивно зрозуміло, чому справедлива та чи інша теорема.

Заключение

Ричард Хэмминг мав якнайширшою ерудицією. До сфери його наукових інтересів входив великий коло математичних і технічні проблеми. Він здобув першокласні результати у теорії кодування, а й у інших областях науки.

В 1956 р. Хэмминг, працюючи створення однієї з перших комп’ютерів IBM 650, запропонував мову програмування високого рівня, що застосовується і сьогодні. Цікаві дослідження у сфері про чисельні методів рішення різноманітних прикладних математичних завдань. Він створив в нові методи чисельної інтеграції диференційних рівнянь і спектрального аналізу та запропонував використовуватиме згладжування даних при спектральному аналізі вікно Хэмминга, що дозволяє здійснювати їхню попередню ефективну фільтрацію, позбавляючись помилок измерений.

Хэмминг прославився як як учений, а й як видатний педагог. Висловлюючись словами Бердяєва, винесеними в епіграф до цього нарису, він «щомиті життя виявляв творчість і винахідливість». З 1962 по 1997 рр. він написав вісім книжок з прикладним численным методами аналізу, цифровим фильтрам, теорії кодування і теорії інформації, теорії ймовірностей і математичної статистиці. У книгах проявилося велику наукову і педагогічний хист автора, і вони унаслідок їх дивовижної ясності користувалися величезної популярністю. Три його (по численным методами аналізу, цифровим фильтрам і з теорії кодування і теорії інформації) були у России.

Создавая ці чудові книжки, Хэмминг бачив своє завдання у тому, щоб фахівці отримали глибокі знання, він намагався до того що, що вони відчули сам дух науки. Його девізом було: «Мета розрахунків — не числа, а понимание».

В своєї останньої дуже цікавої книзі «Мистецтво наукового дослідження та винаходи: вчитися вивчати («The Art of Doing Science and Engineering: Learning to Learn»), виданої 1997 р., Хэмминг виклав філософські погляди на природу та принципи наукового творчества.

Список литературы

Для підготовки даної роботи було використані матеріали із російського сайту internet.