Merge pull request #2 from jungin7612/fix-condi-info-2

Fix: Minor edits in condi-entropy1

Author: jungin7612

_posts/2019-04-29-license.md

@@ -61,9 +61,7 @@ $$
 이제 위 수식에서 $X$만이 유일한 변수이다. 그러므로 위 수식을 다음과 같이 나타낼 수 있다.
 
 $$
-
 = \sum_{x} p_{X|Y}(x|y) \log \frac{1}{p_{X|Y}(x|y)}
-
 $$
 
 만약 우리가 특정 조건 $y$에 대한 모든 가능한 조건부 엔트로피를 합하면, $Y$에 주어진 $X$의 전체 조건부 엔트로피를 다음과 같이 나타낼 수 있다
@@ -75,9 +73,7 @@ $$
 이제 엔트로피 $H(X)$와 $H(Y|X)$를 고려해보자. $H(X)$는 $X$에 대한 정보이고, $H(Y|X)$는 $X$의 정보가 주어졌을 때 $H(X,Y)$에서의 '남은'정보이다. 따라서 우리는 $H(X) + H(Y|X) = H(X,Y)$라고 기대할 수 있고 아래와 같이 증명가능하다.
 
 $$
-\mathbb{E}\Big[ \log \frac{1}{p_X(X)} \Big]
-+ \mathbb{E}\Big[ \log \frac{1}{p_{Y|X}(Y|X)} \Big]
-= \mathbb{E}\Big[ \log \frac{1}{p_X(X) p_{Y|X}(Y|X)} \Big]
+\mathbb{E}\Big[ \log \frac{1}{p_X(X)} \Big]+ \mathbb{E}\Big[ \log \frac{1}{p_{Y|X}(Y|X)} \Big]= \mathbb{E}\Big[ \log \frac{1}{p_X(X) p_{Y|X}(Y|X)} \Big]
 $$
 
 $$
@@ -107,19 +103,19 @@ $\mathbb{E}\Big[ \log \frac{1}{p_{Y2|Y1}(Y2|Y1)} \Big]$을 구하면 된다.
 
 2.
 
-$p_(Y4=0|Y1=0) = 3/4$
+$p_{}(Y4=0|Y1=0) = 3/4$
 
-$p_(Y4=1|Y1=0) = 1/4$
+$p_{}(Y4=1|Y1=0) = 1/4$
 
-$p_(Y4=0|Y1=1) = 1/4$
+$p_{}(Y4=0|Y1=1) = 1/4$
 
-$p_(Y4=1|Y1=1) = 3/4$
+$p_{}(Y4=1|Y1=1) = 3/4$
 
 를 이용하면 $H(Y4|Y1=0)$은 $3/4\log4/3+1/4\log4$이고
 
 $H(Y4|Y1=1)$은 $3/4\log4/3+1/4\log4$이다.
 
-따라서 $H(Y4|Y1)$은 $1/2*3/4\log4/3+1/4\log4$+$1/2*3/4\log4/3+1/4\log4$이다.
+따라서 $H(Y4|Y1)$은 ($1/2$)($3/4\log4/3+1/4\log4$)+($1/2$) ($3/4\log4/3+1/4\log4$)이다.
 
 이를 $H(Y4)=1$와 비교해보면 더 작은 것을 알 수 있다.