Количество информации

Подходы к измерению информации:

  1. Содержательный
  2. Информация должна быть понятной и новой

    2i - 1 < N <= 2i; i - целое количество информации в битах
    N - количество равновероятных событий

  3. Алфавитный
  4. Когда у нас есть алфавит, и нужно посчитать минимальное количество битов для сохранения текста в нём

    V = ki; 2i-1 < N <= 2i
    i - целое количество битов для зранения 1 символа, k - кол-во символов, N - Мощность алфавита (количество символов в нём)

  5. Вероятностный
  6. p = Rудачных вариантов/N

    2i - 1 < 1/p <= 2i

    i - целое количество информации

Системы счисления

Перевод чисел:

  1. Любая СС → Десятичная (развернутая форма)

    Чтобы перевести число из системы с основанием q в десятичную, нужно представить его в виде суммы произведений цифр на основание в степени позиции (нумерация справа налево, начиная с 0).

    Формула: A(q) = an-1 * qn-1 + ... + a1 * q1 + a0 * q0

      Примеры:
    • Перевести 10112 в 10-ю
      10112 = 1*23 + 0*22 + 1*21 + 1*20 = 8 + 0 + 2 + 1 = 1110
    • Перевести 2F16 в 10-ю
      (F = 15) 2*161 + 15*160 = 32 + 15 = 4710
  2. Десятичная → Любая СС (деление уголком)

    Чтобы перевести целое число из десятичной системы в систему с основанием q, нужно последовательно делить его на q до тех пор, пока не получится частное, меньшее q. Остатки от деления (последний записывается первым) дадут цифры нового числа.

      Примеры:
    • Перевести 4710 в 2-ю
      47 / 2 = 23 (ост. 1)
      23 / 2 = 11 (ост. 1)
      11 / 2 = 5 (ост. 1)
      5 / 2 = 2 (ост. 1)
      2 / 2 = 1 (ост. 0)
      1 / 2 = 0 (ост. 1)
      Читаем снизу вверх: 1011112
    • Перевести 4710 в 16-ю
      47 / 16 = 2 (ост. 15 → F)
      2 / 16 = 0 (ост. 2)
      Ответ: 2F16
  3. Связь с двоичной (степени двойки)

    Перевод между системами, родственными двоичной (8-ричной и 16-ричной), можно упростить, используя таблицу тетрад и триад. Одна цифра в 16-ричной СС соответствует 4 цифрам в двоичной (тетрада), а одна цифра в 8-ричной — 3 цифрам (триада).

      Примеры:
    • 2F16 → X2
      Каждую цифру заменяем тетрадой: 2 → 0010, F(15) → 1111. Убираем незначащий ноль: 1011112
    • 578 → X2
      Каждую цифру заменяем триадой: 5 → 101, 7 → 111. Ответ: 1011112

Действия в системах счисления

  1. Сложение

    Сложение производится поразрядно, начиная с младшего разряда. Если сумма в разряде превышает основание системы минус 1, происходит перенос единицы в следующий разряд.

      Примеры:
    • 10112 + 11012 = 110002
    • 2F16 + 1A16 = 4916 (15+10=25 → перенос 1, остается 9)
  2. Вычитание

    Если в текущем разряде цифра уменьшаемого меньше цифры вычитаемого, занимаем единицу из старшего разряда (эта единица равна основанию системы в младшем разряде).

      Примеры:
    • 11012 - 1012 = 10002
    • 4A16 - 1B16 = 2F16 (занимаем из 4, получаем 3, A становится 26, 26-11=15=F)
  3. Умножение и деление

    Выполняются аналогично десятичной системе, но с использованием таблиц умножения для соответствующего основания.

      Примеры:
    • 1012 * 112 = 11112
    • 10012 / 112 = 112