Теоретические основы информатики: Учебно-методический комплекс дисциплины

Департамент образования города Москвы Государственное образовательное учреждение Высшего профессионального образования города Москвы

«Московский городской педагогический университет» Математический факультет Кафедра информатизации образования

Учебно-методический комплекс Учебной дисциплины

Теоретические основы информатики

ООП 030100.00

Информатика

Москва - 2009 1

Программа, методические рекомендации и план освоения дисциплины обсуждены и утверждены на заседании кафедры информатизации образования (протокол заседания кафедры №_________ от «___» __________ 2009 года), утверждены на заседании совета математического факультета (протокол заседания совета №___ от «___»____________ 2009 года). УМКД рекомендован к печати Научно-методическим советом ГОУ ВПО МГПУ.

Составитель Заведующий кафедрой информатизации образования доктор педагогических наук, профессор Гриншкун В.В.

Заведующий кафедрой доктор педагогических наук, профессор Гриншкун В.В.

Рецензент:

2

Часть I. Программа дисциплины Пояснительная записка В соответствии с учебным планом на изучение курса теоретические основы информатики в 8-м семестре отводится 128 часов (общее количество), из которых 101 час – аудиторная нагрузка (29 часов лекций и 36 х 2 часов лабораторные работы) и 20 часов – самостоятельная работа студентов.

Цель курса: Освоение теоретического фундамента и математических методов для построения и изучения моделей обработки, передачи и использования информации. Задачи курса: - формирование основных понятий теоретической информатики; - получение знаний об основных видах информационных моделей и научных подходах, изучающих их свойства; - освоение математических методов, которые при этом используются. Требования к уровню начальной подготовки: В процессе освоения дисциплины используются знания и навыки, полученные студентами ранее в курсах “Программное обеспечение», «Основы архитектуры ЭВМ», «Дискретная математика», «Теория вероятностей и математическая статистика». Необходимыми являются: - умение составлять математические модели вычисления значений функций, решение элементарных уравнений и неравенств; - иметь навыки вычислений по рекуррентным соотношениям; - уметь подсчитывать вероятности элементарных событий; - иметь представление об условной вероятности элементарного события; - иметь представление об устройстве компьютера. - знать представление и обработку чисел в компьютере.

3

Требования к уровню освоения дисциплины - иметь четкое представление о предмете и структуре курса «Теоретические основы информатики»; - владеть основами теории алгоритмов; - иметь представление о машинах Поста и Тьюринга; - знать основные свойства рекурсивных функций; - знать методы оценки и виды информации; - владеть понятием энтропии; - иметь представление о статистических и объемных подходах к определению количества информации; - уметь использовать формулы Шеннона и Хартли; - знать первую теорему Шеннона в различных интерпретациях; - иметь представление о префисных кодах; - уметь использовать коды Шеннона – Фано и Хаффмана для конкретной задачи; - иметь представление об особенностях различных методов кодирования; - знать особенности реализации вещественной компьютерной арифметики; - иметь представление о кодировании текстовой и графической информации; - знать особенности квантования цвета и цветовые модели RGB и СМУК; - знать схему передачи информации в линиях связи; - владеть вопросами обеспечения надежности передачи и хранения информации; - иметь представление о структурных данных и особенностях устройств хранения информации в ОЗУ и на внешних носителях; - уметь производить вычисления по логическим формулам; - уметь решать логические задачи; - знать булевы функции и канонические формы логических формул; - знать теорему о СДНФ.

Cодержание курса Введение Определение информатики. Классификация основных направлений в информатики. Роль и место теоретической информатики. Связь теоретической информатики с дискретной математикой. Характеристика основных дисциплин, составляющих теоретические основы информатики.

Раздел I. Элементы теории алгоритмов. Тема 1. Основные понятия теории алгоритмов. 1.1 Понятие алгоритма. 1.2 Нестрогое определение алгоритма. 4

1.3 Свойства алгоритмов. 1.4 Понятие сложности алгоритма. Тема 2. Способы представления алгоритмов. 2.1. Исполнитель алгоритма. 2.2. Строчная словесная запись алгоритма. 2.3. Графическая форма записи. 2.4. Классификация способов представления алгоритмов. 2.5. Структурная теорема. Тема 3. Анализ алгоритмов поиска. 3.1. Алгоритм последовательного поиска в неупорядоченном массиве. 3.2. Алгоритм бинарного поиска в упорядоченном массиве. 3.3. Алгоритм обменной сортировки методом “пузырька». 3.4. Сравнение скорости выполнения алгоритмов. Тема 4. Алгоритм как абстрактная машина. 4.1. Необходимость уточнения понятия алгоритм. Общие подходы. 4.2. Алгоритмическая машина Поста как уточнение понятия алгоритма. 4.3. Машина Тьюринга. Математическое описание машины Тьюринга. 4.4. Алгоритм над словами. Нормальный алгоритм Маркова. Тема 5. Рекурсивные функции. 5.1. Примитивно-рекурсивные функции. 5.1.1. Простейшие функции. 5.1.2. Операция подстановки ( суперпозиция ). 5.1.3. Свойства примитивно-рекурсивных функций. 5.2. Частично-рекурсивные функции. Общерекурсивные функции. 5.2.1. Операция минимизации. 5.2.2. Свойство операции минимизации. 5.2.3. Частично рекурсивные функции. 5.2.4. Общерекурсивные функции. 5.2.5. Примеры общерекурсивных и частично рекурсивных функций. 5.3. Иерархия классов рекурсивных функций. Тема 6. Сопоставление алгоритмических моделей и проблема алгоритмической разрешимости. Раздел II. Основы теории информации. Тема I. Исходные понятия информации. 1.1. Начальные определения. 1.2. Формы представления информации. 1.3. Информация и сообщения. Преобразование сообщений. 5

1.4.

Методы оценки и виды информации.

Тема 2. Понятие информации в теории Шеннона. 2.1. Понятие энтропии. 2.1.1. Энтропия как форма неопределенности. 2.1.2. Свойства энтропии. 2.1.3. Условная энтропия. 2.2. Энтропия и информация. 2.3. Статистическое определение информации. Вероятностный и объемный подходы к определению количества информации. 2.5. Информация и алфавит. 2.5.1. Формулы Шеннона и Хартли. 2.5.2. Понятие шенноновского сообщения. Тема 3. Кодирование символьной информации. 3.1. Постановка задачи кодирования. Первая теорема Шеннона. Интерпретация первой теоремы Шеннона. 3.2. Способы построения двоичных кодов. 3.2.1. Алфавитное неравномерное двоичное кодирование. Префиксный код. Коды Шеннона – Фано и Хаффмана. 3.2.2.Равномерное алфавитное двоичное кодирование. Байтовый код. 3.2.3. Алфавитное кодирование с неравной длительностью элементарных сигналов. Код Морзе. 3.2.4. Блочное двоичное кодирование. Алгоритмы Лемнеля-Зива. Тема 4. Представление и обработка чисел в компьютере. 4.1. Системы счисления. 4.2. Представление чисел в различных системах счисления. 4.2.1. Перевод целых чисел из одной системы счисления в другую. 4.2.2. Перевод дробных чисел из одной системы счисления в другую. 4.2.3. Понятие экономичности счисления. 4.3. Кодирование чисел в компьютере и действия над ними. 4.3.1. Кодирование и обработка в компьютере целых чисел без знака. 4.3.2. кодирование и обработка в компьютере целых чисел со знаком. 4.3.3. Особенности реализации вещественной компьютерной арифметики. Тема 5. Представление текстовой и графической информации. 5.1. Представление текстовой информации. Использование кодовых таблиц. 5.2. Представление графической информации. 5.2.1. Общие подходы к представлению в компьютере информации естественного происхождения. Дискретизация и квантование информации. 5.2.2. Векторное и растровое представление графической информации. 5.2.3. Квантование цвета. 6

5.2.4. Цветовые модели RGB и СМУК. 5.3. Представление звуковой информации. 5.3.1. Импульсно-кодовая модуляция. 5.3.2. Принципы компьютерного воспроизведения звука. Тема 6. Передача информации. 6.1. Общая схема передачи информации в линиях связи. 6.2. Характеристика канала связи. 6.3. Влияние шумов на пропускную способность канала. 6.4. Обеспечение надежности передачи и хранения информации. 6.4.1. Постановка задачи. Вторая теория Шеннона. 6.4.2. Коды, обнаруживающие ошибку. 6.4.3. Коды, исправляющие одиночную ошибку. 6.5. Способы передачи информации в компьютерных линиях связи. 6.5.1. Канал параллельной передачи. 6.5.2. Последовательная передача данных. Тема 7. Хранение информации. 7.1. Классификация данных. Проблемы представления данных. 7.2. Представление элементарных данных в ОЗУ. 7.3. Структуры данных и их представление в ОЗУ. 7.3.1. Классификация и примеры структур данных. 7.3.2. Организация данных в ОЗУ. 7.4. Представление данных на внешних носителях. 7.4.1. Иерархия структур данных на внешних носителях. 7.4.2. Особенности устройств хранения информации. Раздел III. Введение в алгебру логики. Тема I. Основы алгебры логики. 1.1. Понятие высказывания. 1.2. Логические операции. Таблицы истинности. 1.3. Логические формулы. Законы алгебры логики. 1.4. Методы решения логических задач. Тема 2. Булевы функции. Тема 3. Канонические формы логических формул. 3.1. Теорема о СДНФ. Алгоритм построения СДНФ на таблице истинности. 3.2. Теорема о СКНФ. Алгоритм построения СКНФ на таблице истинности. 3.3. Многочлены Жегалкина.

7

Часть II. Методические рекомендации и план освоения учебной дисциплины Специальность: «Учитель информатики» Очное отделение Содержание лекционных занятий: 7 семестр. №

Тема занятия

1

2

3 4 5

6 7 8

Ведение. Роль и место теоретической информатики. Содержательная классификация дисциплин, составляющих базис теоретических основ информатики. Раздел 1. Элементы теории алгоритмов. Понятие алгоритма. Нестрогое определение алгоритма и его свойства. Способ представления алгоритма. Структурная теорема. Анализ алгоритмов поиска. Алгоритм как абстрактная машина. Алгоритмическая машина Поста как уточнение понятия алгоритма. Примеры. Машина Тьюринга. Математическое описание машины Тьюринга. Алгоритм над словами. Нормальный алгоритм Маркова. Примеры. Рекурсивные функции. Свойства примитивнорекурсивных функций. Частично-рекурсивные функции. Свойство операции минимизации. Общерекурсивные функции. Иерархия классов рекурсивных функций. Сопоставление алгоритмических моделей и проблемы алгоритмической разрешимости. Раздел 2. Основы теории информации. Исходные понятия информации. Формы представления информации. Методы оценки и виды информации. Информация и сообщения. Понятие энтропии как меры неопределенности. Свойства энтропии. Условная энтропия. Энтропия и информация. Статистическое определение информации. Вероятностный и объемный подходы к определению количества информации.

Количество часов 1

2

2 2 2

2 2 2

8

9

10

11

12

13

14

15

Информация и алфавит. Формулы Шеннона и Хартли. Постановка задачи кодирования символьной информации. Первая теорема Шеннона. Ее интерпретации. Способы построения двоичных кодов. Алфавитное неравномерное двоичное кодирование. Понятие префиксного кода. Коды Шеннона-Фано и Хаффмана. Равномерное алфавитное двоичное кодирование. Байтовый код. Блочное двоичное кодирование. Алгоритмы Лемпеля – Зива. Особенности реализации вещественной компьютерной арифметики. Понятие экономичности системы счисления. Представление текстовой информации . Дискредитация и квантование информации Квантование цвета. Цветовые модели RGB и CMYK. Общая схема передачи информации в линиях связи. Обеспечение надежности передачи и хранения информации. Вторая теорема Шеннона. Коды, обнаруживающие и исправляющие ошибку. Способы передачи информации в компьютерных линиях связи. Особенности устройств хранения информации. Хранение информации. Классификация данных. Проблемы представления данных. Классификация и примеры структур данных. Организация структур данных в ОЗУ и на внешних носителях. Особенности устройств хранения информации. Раздел 3. Введение в алгебру логики. Понятие высказывания. Логические операции. Таблицы истинности. Логические формулы. Законы алгебры логики. Методы решения логических задач. Примеры. Булевы функции. Канонические формы логических формул. Теорема о СДНФ. Алгоритм построения СДНФ по таблице истинности. Метод минимизации карт. Многочлены Жегалкина. Итого:

2

2

2

2

2

2

2

29

9

Содержание лабораторных работ № 1 2 3

4 5

6 7 8 9

10

11 Итого :

Тема занятия Составление алгоритмов решения задач по теории чисел, алгебре. Алгоритмы текстовых задач и задач поиска. Подсчет сложности простейших алгоритмов. Решение задач по уточнению понятия алгоритма на примерах машины Поста и Тьюринга. Алгоритмы над словами. Задачи на рекурсивные функции. Использование операций подстановки, примитивной рекурсии, минимизации. Распознавание частичной и общей рекурсии. Определение энтропии при проведении опытов, связанных с элементарными событиями. Алфавитный подход к измерению информации. Использование формул Хартли и Шеннона. Задачи на определение количества текстовой и графической информации. Представление и обработка в компьютере вещественных чисел. Алфавитное неравномерное двоичное кодирование. Задачи на префиксные коды Шеннона – Фано и Хаффмана. Подсчет пропускной способности канала связи. Учет влияния шумов на характеристики некоторых каналов связи. Надежность передачи информации. Устранение ошибок передачи информации с использованием самокорректирующихся кодов Хеннинга . Подсчет времени передачи текстовых и графических файлов. Решение задач на алгебру логики. Составление таблиц истинности. Упрощение логических формул. Использование законов логики и таблиц истинности для решения логических задач. Булевы функции. Канонические формы логических формул. Теорема о СДНФ. Минимизация булевых функций. Многочлены Жегалкина.

Количество часов 4 4 4

2 4

2 4 2 2

4

4 36 часов

10

Учебно-методическое обеспечение Компьютерные классы с программным обеспечением Windows 2000/xp Professional, средством просмотра Internet Exhljrer v.6, MS Office 2003, пакеты компьютерной алгебры Maple 9, Mathematica 5.

Контрольно-самостоятельная работа студентов В процессе освоения дисциплины студенты могут выполнять ряд самостоятельных работ, результаты оценки которых могут быть учтены при сдаче экзамена. Формой самостоятельной работы может быть подготовка реферата по общей программе курса ТОИ. Студент должен выбрать тему реферата, согласовать его содержание с преподавателем дисциплины и приступить к работе до середины семестра. Реферат должен быть оформлен в виде документа Word (в письменном и электронном варианте), содержать не менее 10 страниц и представлен преподавателю не позднее, чем за две недели до окончания лекционного курса. Возможные темы реферативных работ: 1. Проблема алгоритмической разрешимости. 2. Нормальные алгоритмы Маркова. 3. Базовые понятия теории информации. 4. Смысл энтропии Шеннона. 5. Арифметическое кодирование. 6. Подстановочные или словарно-ориентированные алгоритмы сжатия информации. Методы Леммеля- Зива. 7. Сжатие информации с потерями. 8. Математическая модель системы связи. 9. Основы теории защиты информации. 10. Информация в Internet. 11. Комбинаторные методы решения логических задач. 12. Использование пакетов компьютерной алгебры для решения задач на булевы функции.

Вопросы к экзамену: 1. 2. 3. 4. 5. 6. 7.

Нестрогое определение алгоритма. Свойства алгоритмов. Понятие сложности алгоритма. Классификация способов представления алгоритмов. Структурная теорема. Алгоритм последовательного поиска в неупорядоченном массиве. Алгоритм бинарного поиска в упорядоченном массиве. 11

8. Сравнение скорости выполнения алгоритмов. 9. Необходимость уточнения понятия алгоритм. 10. Алгоритмическая машина Поста как уточнение понятия алгоритм. 11. Математическое описание машины Поста. 12. Примитивно-рекурсивные функции. Операция подстановки. 13. Частично-рекурсивные функции. Свойства операции минимизации. 14. Общерекурсивные функции. Иерархия классов рекурсивных функций. 15. Сопоставление алгоритмических моделей и проблема алгоритмической разрешимости. 16. Исходные понятия информации. Формы представления информации. Информация и сообщения. 17. Методы оценки и виды информации. 18. Энтропия как мера неопределенности. Свойства энтропии. Условная энтропия. 19. Энтропия и информация. 20. Статистическое определение информации. Вероятностый и объемый подходы. 21. Понятие шенноновского сообщения. Формулы Шеннона и Хартли. 22. Постановка задачи кодирования. Первая теорема Шеннона. 23. Алфавитное неравномерное двоичное кодирование. Префиксные коды Шеннона – Фано и Хаффмана. 24. Алфавитное кодирование с неравной длительностью элементарных сигналов. Код Морзе. 25. Блочное двоичное кодирование. 26. Понятие экономичности системы счисления. 27. Представление текстовой информации. Использование кодовых таблиц. 28. Дискретизация и квантование информации. 29. Квантование цвета. Цветовые модели RGB и СМУК. 30. Общая схема передачи информации в линиях связи. Характеристика канала связи. 31. Обеспечение надежности передачи и хранения информации. Вторая теорема Шеннона. 32. Коды, обнаруживающие и исправляющие ошибку. 33. Способы передачи информации в компьютерных линиях связи. 34. Классификация данных. Проблемы представления данных. 35. Организация структур данных в ОЗУ и на внешних носителях. 36. Особенности устройств хранения информации. 37. Понятие высказывания. Логические операции. Таблицы истинности. 38. Логические формулы. Законы алгебры логики. 39. Булевы функции. Канонические формы логических формул. 40. Теорема о СДНФ. Минимизация булевых функций в классе ДНФ.

12

Основная литература. 1. Б.Е. Стариченко. Теоретические основы информатики, Учебное пособие для вузов., М., Горячая – линия – Телеком, 2004. 2. А.В.Голованова, Е.И.Голикова. Теоретические основы информатики. 3. А.В.Могилев, Н.И.Пак, Е.К.Хеппер. Информатика, М., АСАDEMIA, 2000. 4. Е.В.Андреева, Л.Л.Босова, И.Н.Фалина. Математические основы информатики. Учебное пособие, М., БИНОМ, Лаборатория знаний, 2005. 5. Е.В.Андреева, Л.Л.Босова, И.Н.Фалина. Математические основы информатики. Учебное пособие, М., БИНОМ, Лаборатория знаний, 2007. 6. Ю.А.акаренков. А.А.Столяр. Что такое алгоритм, Минск, «Народная Асвета», 1989. 7. Л.Л.Босова, Арифметические и логические основы ЭВМ, М., Информатика и образование, 2000. 8. Е.В.Андреева, И.Н.Фалина. Системы счисления и компьютерная арифметика, Учебное пособие, М., Лаборатория базовых знаний, 2000. 9. В.Ю.Лыскова, Е.А.Ракитина. Логика в информатике. М., Информатика и образование, 1999. 10. А.М.Яглом, И.М.Яглом. Вероятность и информация. М.: Наука, 1973. 11. М.Н.Аршинов. Л.Е.Садовский. Коды и математика. М.: Наука, 1983. 12. Информатика. Учебник под редакцией Н.В.Макаровой. М.: Финансы и статистика, 1997. 13. О.В.Кузьмин. Комбинаторные методы решения логических задач, М., Дрофа, 2005. 14. Б.Н.Иванов. Дискретная математика. Алгоритмы программы. М.: Лаборатория базовых знаний, 2002. 15. В.В.Лидовский. Основы теории информации и криптографии. Учебный курс.INTUIT.ru. Дополнительная литература 1. 2. 3. 4.

П.А. Алексеев. Информатика. М.: Солон –Р, 2001. А.И.Мальцев. Алгоритмы и рекурсивные функции. М.: Наука, 1965. Дж. Пирс. Символы, сигналы, шумы. М., Мир, 1967. Г.П.Гаврилов. Задачи и упражнения по дискретной математике. М.: Физматлит, 2005. 5. С.Г.Гиндикин. Алгебра логики в задачах. М.: Наука, 1977. 6. О.П.Кузнецов, Г.М.Адельсон-Вельский. Дискретная математика для инженера. М.: Энергия, 1980.

13

7. Р.Грэхем, Д.Кнут, О.Поташник. Конкретная математика, М.: Мир. БАЗ, П. 2006.

14