Избыточность Шенона

Избыточность Шенона — мера, показывающая долю избыточной информации в сообщении относительно её максимально возможной информационной ёмкости. Является синонимом термина информационный коэффициент. Позволяет оценить эффективность кодирования данных: чем выше избыточность, тем менее эффективно используется канал передачи информации. Рассчитывается на основе энтропии источника и максимально возможной энтропии для данного алфавита. Широко применяется в теории информации, связи и компьютерных науках.