RNN과 텐서플로우 심화 활용방법

우리는 우리의 요구조건에 따라 텐서를 바꿀 수 있다. 첫 번째 값(-1)은 전달된 데이터의 양에 따라 해당 치수를 동적으로 형성하는 함수를 말한다. 두 개의 중간 치수는 이미지 크기(즉, 28 x 28)로 설정된다.28 x 28의 치수를 가진 두 개의 층의 Stride 2 풀링 후 출력물을 14 x 14 또는 최소 7 x 7 x,y 좌표와 64개의 출력 채널로 평탄화시키자. "밀도" 층과 완전히 연결된 것을 만들려면, 새로운 모양이 [-1, 7 x 7 x 64]가 되어야 한다. 이 계층에 대해 가중치와 바이어스 값을 설정한 다음 ReLU로 활성화할 수 있다.필요한 최적기와 함께 특정한 소프트맥스 활성화가 있는 또 다른 계층은 정확도 평가를 정의하며, 이는 초기화 연산자를 설정한다. 녹음 변수를 설정해야죠. 이것은 데이터의 정확성을 저장하기 위한 요약을 추가한다. 반복신경망은 순차적 접근법을 따르는 심층 학습 지향 알고리즘의 일종이다. 신경망에서는, 우리는 항상 각 입력과 출력이 다른 모든 계층과 독립되어 있다고 가정한다. 이러한 유형의 신경망은 순차적으로 수학적 계산을 수행하기 때문에 반복이라고 불린다. 반복적인 신경망을 훈련시키기 위해 다음 단계를 고려한다. 1단계: 데이터 세트의 특정 예를 입력하십시오. 2단계: 네트워크는 무작위로 초기화된 변수를 사용하여 예를 들어 몇 가지 계산을 계산한다. 3단계: 예측된 결과를 계산한다. 4단계: 실제 결과와 예상 값을 비교하면 오류가 발생한다. 5단계: 오류를 추적하기 위해 변수 또한 조정되는 동일한 경로를 통해 전파된다. 6단계: 출력을 얻기 위해 선언된 변수가 올바르게 정의되었음을 확신할 때까지 1단계부터 5단계까지의 단계를 반복한다. 7단계: 보이지 않는 새로운 입력을 얻기 위해 이러한 변수를 적용하여 체계적인 예측을 한다. 반복적인 신경망을 나타내는 체계적인 접근방식은 아래에 설명되어 있다. 이 섹션에서는 TensorFlow를 사용하여 반복적인 신경망을 구현하는 방법을 배우게 된다. 1단계: TensorFlow는 반복적인 신경 네트워크 모듈의 특정 구현을 위한 다양한 라이브러리를 포함한다. 위에서 언급한 바와 같이, 도서관은 반복적인 신경 네트워크 구현의 주요 부분을 구성하는 입력 데이터를 정의하는 데 도움을 준다. 2단계: 우리의 주된 동기는 반복적인 신경망을 사용하여 이미지를 분류하는 것이다. 여기서 우리는 모든 이미지 행을 픽셀의 순서로 간주한다. MNIST 영상 형상은 구체적으로 28*28 px로 정의된다. 이제 우리는 언급된 각 샘플에 대해 28단계의 28단계를 다룰 것이다. 입력 매개변수를 정의하여 순차 패턴이 수행되도록 할 것이다.3단계: RNN에서 정의된 함수를 사용하여 결과를 계산하여 최상의 결과를 얻으십시오.

 

여기서 각 데이터 형태를 현재 입력 형태와 비교하고 그 결과를 계산하여 정확도를 유지한다. 4단계: 이 단계에서, 우리는 계산 결과를 얻기 위해 그래프를 시작할 것이다. 이것은 또한 시험 결과의 정확도를 계산하는 데 도움이 된다.TensorFlow에는 TensorBoard라고 하는 시각화 도구가 포함되어 있다. 데이터 흐름 그래프를 분석하는 데 사용되며 기계 학습 모델을 이해하는 데도 사용된다. TensorBoard의 중요한 특징에는 수직 정렬에 있는 그래프의 매개변수와 세부사항에 대한 다양한 유형의 통계 뷰가 포함된다. 심층신경망은 최대 36,000개의 노드를 포함한다. TensorBoard는 이러한 노드를 높은 수준의 블록에서 붕괴시키고 동일한 구조를 강조하는데 도움이 된다. 이를 통해 계산 그래프의 1차 부분에 초점을 맞춘 그래프를 더 잘 분석할 수 있다. TensorBoard 시각화는 사용자가 노드를 이동, 확대/축소 및 확장하여 세부 정보를 표시할 수 있는 매우 대화형이라고 한다. 다음 도식표시는 TensorBoard 시각화의 완전한 작동을 보여준다.알고리즘은 노드를 상위 레벨 블록으로 축소하고, 고도 노드를 분리하는 구조가 동일한 특정 그룹을 강조한다. 따라서 만들어진 TensorBoard는 유용하며 기계 학습 모델의 튜닝에도 동일하게 중요하게 취급된다. 이 시각화 도구는 구성 로그 파일에 대해 설계되었으며 요약 정보와 표시해야 할 세부 정보가 포함되어 있다. 다음 코드의 도움을 받아 TensorBoard 시각화의 데모 예제에 초점을 맞추자.워드 임베딩은 단어와 벡터, 실제 숫자와 같은 별개의 개체로부터 매핑되는 개념이다. 그것은 기계학습에 있어서 입력에 중요하다. 이 개념에는 표준 기능이 포함되어 있어 이산 입력 객체를 유용한 벡터로 효과적으로 변환한다. 단어 엠베딩 입력의 예시는 다음과 같다. 워드2vec는 감독되지 않은 워드 임베딩 기법에 사용되는 가장 일반적인 방법이다. 그것은 주어진 입력 단어가 건너뛰기를 사용하여 단어의 문맥을 예측하는 방식으로 모델을 훈련시킨다. TensorFlow는 더 높은 수준의 정교함과 최적화 그리고 멀티스레딩 개념과 더 높은 수준의 추상화를 사용하여 이러한 종류의 모델을 구현하는 많은 방법을 가능하게 한다.단일층 지각변동을 이해하기 위해서는 인공신경망(ANN)을 이해하는 것이 중요하다. 인공신경망은 정보처리시스템이며, 그 메커니즘은 생물학적 신경회로의 기능성에 영감을 준다. 인공 신경 네트워크는 서로 연결된 많은 처리 단위를 가지고 있다. 다음은 인공신경망의 도식표현이다. 도표는 숨겨진 단위가 외부 계층과 통신한다는 것을 보여준다. 입력과 출력 단위는 네트워크의 숨겨진 레이어를 통해서만 통신한다.