専門的に勉強したことがないと、情報理論における「情報」というものが、なかなかイメージしづらく、難しく感じる。が、シャノンが「価値のある情報をどう送受信するか」というテーマを持って理論化した、ということはなんとなく理解できた。情報エントロピーの概念も、日常感覚と繋がるようで違いもあって難しいが、面白いなと思う。熱力学のエントロピーとのつながりはもう少し勉強が必要。

ChatGPTに聞きながら読み返して少しだけ理解が進んだ気がする。そもそもシャノンの情報理論における「情報」は普段の生活の中にある「意味」とは違うもの。

情報エントロピーがよくわからないので買ってみた。やはり、書きながら読むのが良いのかな……