Redundância e entropia

O conceito de redundância é absolutamente oposto ao de entropia.
Enquanto uma informação de baixa previsibilidade significa variedade, novidade e é entrópica e com muita informação, uma informação de alta previsibilidade significa falta de variedade ou simplesmente repetição e é redundante e de pouca informação. Geralmente os indivíduos que chamamos de chatos são na verdade tremendos redundantes. É o caso, por exemplo, das pessoas que contam a mesma história várias vezes. Indivíduos previsíveis também são redundantes.
Podemos afirmar que uma língua entrópica dispõe de um vocabulário rico, com palavras diferenciadas, que mostram o poder das combinatórias; uma língua pouco entrópica é pobre e repetitiva.
A teoria da informação diz que quantas menos informações sobre um sistema, maior serão sua entropia. Isso remete ao facto de as equações matemáticas para a entropia usarem métodos probabilísticos para serem deduzidas. Sendo assim, quanto maior o número de arranjos possíveis, maior será a entropia.
Entropia é uma palavra que vem do grego e representa uma grandeza termodinâmica, que esta associada a algum grau de desordem. Essa grandeza é quem mede a energia que não foi transformada em trabalho.

Na comunicação, a entropia está relacionada ao grau de desorganização da mensagem. Quanto mais desorganizada, mais entrópica. Nos meios académicos, costuma-se brincar que o melhor exemplo de entropia seria um macaco utilizando uma máquina de escrever. O resultado dessa traquinice é uma mensagem totalmente desprovida de código e entrópica. Portanto, incompreensível. O código é utilizado com o objectivo de evitar que o caos tome conta da mensagem.
A entropia, no entanto, pode ter uma utilização positiva na comunicação, pois uma mensagem extremamente ordenada é também uma mensagem previsível e, portanto, redundante. A característica de imprevisibilidade da entropia pode dar à comunicação um toque mais original.

O surgimento da MTV é um bom exemplo da aplicação da