선형회귀와 케라스, 딥러닝의 수학적 배경

노드와의 연결 패턴, 입력과 출력 사이의 총 레이어 수와 레이어당 뉴런 수가 신경 네트워크의 아키텍처를 정의한다. 건축에는 두 가지 유형이 있다. 이러한 유형은 다음과 같이 기능성 인공신경망에 초점을 맞춘다.단층 지각론은 최초로 만들어진 신경 모델이다. 뉴런의 국소기억의 함량은 체중의 벡터로 구성되어 있다. 단일 레이어 지각론의 계산은 값이 가중치의 벡터의 해당 요소에 곱된 입력 벡터의 합계를 통해 수행된다. 출력에 표시되는 값은 활성화 함수의 입력이다. TensorFlow를 사용한 이미지 분류 문제에 대한 단일 레이어 Perceptron의 구현에 초점을 맞추자. 단일 계층 인식론을 예시하는 가장 좋은 예는 "논리적 회귀"의 표현을 통한 것이다. 이제, 훈련 로지스틱 회귀 분석의 다음과 같은 기본 단계를 고려해보자:  가중치는 훈련 시작 시에 무작위 값으로 초기화된다.  교육 세트의 각 요소에 대해, 오차는 원하는 출력과 실제 출력의 차이로 계산한다. 계산된 오차는 가중치를 조정하는 데 사용된다.  전체 훈련 세트에서 발생한 오류가 지정된 임계값 이상이 될 때까지, 최대 반복 횟수에 도달할 때까지 프로세스를 반복한다. 로지스틱 회귀 분석의 전체 코드는 다음과 같다.로지스틱 회귀 분석은 예측 분석으로 간주된다. 군수 회귀과 의존하고 2진과 하나 이상의 또는 독립적인 변수 공칭 변수 사이의 관계를 설명하기 위해 데이터를 설명하기 위해 사용된다.이 장에서는 선형 회귀 구현 TensorFlow를 사용하는 기본적인 예에 초점을 맞출 것이다. 위해 별개의 범주들의 분류를 위해 군수 회귀 또는 선형 회귀은 관리한 기계 학습 접근이다. 우리의 목표는 이 장에 이것들은 사용자 예측 변수들과 하나 이상의 독립 변수 간 관계를 예측할 수 있는 모델을 구축하는 것이다. 이 두 변수 간 관계는 선형으로 간주된다. y가 종속 변수이고 x가 독립 변수로 간주되는 경우, 두 변수의 선형 회귀 관계는 다음과 같은 방정식과 같다. 우리는 선형 회귀 분석을 위한 알고리즘을 설계할 것이다. 이를 통해  비용 함수  구배 강하 알고리즘의 두 가지 중요한 개념을 이해할 수 있게 된다 선형 회귀의 개략적 표현은 아래에 언급되어 있다. 선형 회귀 모듈을 설계하는 데 필요한 모듈을 가져오는 것이 중요하다. 우리는 Python 라이브러리 NumPy와 Matplotlib를 수입하기 시작했다. 로지스틱 회귀 분석에 필요한 계수 수를 정의하십시오.TFLearn은 TensorFlow 프레임워크에서 사용되는 모듈형 투명 심층 학습 측면으로 정의할 수 있다. TFLearn의 주된 동기는 새로운 실험을 촉진하고 보여주기 위해 TensorFlow에 더 높은 수준의 API를 제공하는 것이다. TFLearn의 다음과 같은 중요한 기능을 고려하십시오.

 

 TFLearn은 사용하기 쉽고 이해하기 쉽다.  고도로 모듈화된 네트워크 레이어, 최적기 및 그 안에 내장된 다양한 지표를 구축하기 위한 쉬운 개념을 포함한다.  TensorFlow 작업 시스템과의 완전한 투명성을 포함한다.  다중 입력, 출력 및 최적기를 수용하는 내장 텐서를 교육할 수 있는 강력한 도우미 기능을 포함한다.  쉽고 아름다운 그래프 시각화를 포함한다.  그래프 시각화에는 가중치, 구배 및 활성화에 대한 다양한 세부 사항이 포함되어 있다. 다음 명령을 실행하여 TFLearn 설치:Keras는 작고, 배우기 쉽고, TensorFlow 프레임워크 위에 높은 수준의 Python 라이브러리를 실행한다. 그것은 형태와 수학적인 세부사항의 개념을 유지하는 신경 네트워크를 위한 층을 만드는 것과 같은 깊은 학습 기법을 이해하는 데 중점을 두고 만들어졌다. freamework의 생성에는 다음 두 가지 유형이 있을 수 있다:  Sequential API  Functional API model Keras에서 심층 학습 모델을 만들기 위한 다음 여덟 가지 단계를 고려하십시오: Load 데이터 로드  모델의 정의  모델 컴파일  지정된 모델 적합  평가 predictions 필요한 예측  모드 저장el 아래와 같이 주피터 노트북을 사용하여 출력물을 실행 및 표시한다. 1단계: 딥러닝 모델을 실행하기 위해 먼저 데이터를 로드하고 로드된 데이터를 사전 처리한다.이 단계는 "라이브러리 및 모듈 가져오기"로 정의할 수 있으며, 이는 모든 라이브러리와 모듈을 초기 단계로 가져오는 것을 의미한다. 2단계: 이 단계에서 모델 아키텍처를 정의한다.이 장에서는 분산된 TensorFlow를 시작하는 방법에 대해 중점적으로 다룰 것이다. 그 목적은 개발자들이 TF 서버와 같이 다시 발생하는 기본적인 분산형 TF 개념을 이해할 수 있도록 돕는 것이다. 우리는 분배된 텐서플로우를 평가하는 데 주피터 노트북을 사용할 것이다. TensorFlow를 사용한 분산 컴퓨팅 구현은 다음과 같다. 1단계: 분산 컴퓨팅에 필요한 필수 모듈 가져오기: 여기서는 TensorFlow의 MetaGraph 형성에 초점을 맞출 것이다. 이는 TensorFlow의 수출 모듈을 이해하는 데 도움이 될 것이다. 메타그래프에는 이전에 훈련된 그래프에 대한 교육, 평가 수행 또는 추론 실행에 필요한 기본 정보가 수록되어 있다. 다음은 동일한 코드 조각:다층 지각은 인공신경망의 가장 복잡한 구조를 정의한다. 그것은 사실상 여러 층의 지각으로 형성된다. 다중 계층 지각 학습의 도표는 다음과 같다.MLP 네트워크는 일반적으로 감독되는 학습 포맷에 사용된다. MLP 네트워크의 대표적인 학습 알고리즘을 역전파의 알고리즘이라고도 한다. 이제 이미지 분류 문제를 위해 MLP와 함께 구현에 초점을 맞추겠다. 이 장에서, 우리는 x와 f(x)라고 불리는 알려진 일련의 지점들로부터 배워야 할 네트워크에 초점을 맞출 것이다. 하나의 숨겨진 계층이 이 단순한 네트워크를 구축할 것이다. Perceptron의 숨겨진 층에 대한 설명에 대한 코드는 다음과 같다.최적기는 특정 모델을 훈련시키기 위해 추가된 정보를 포함하는 확장된 등급이다. 최적기 클래스는 주어진 매개변수로 초기화되지만 텐서가 필요하지 않음을 기억해야 한다. 최적기는 특정 모델을 훈련하기 위해 속도와 성능을 향상시키기 위해 사용된다. TensorFlow의 기본 최적기는 다음과 같다. 이 챕터에서는 TensorFlow를 사용한 XOR 구현에 대해 알아보십시오. TensorFlow에서 XOR 구현을 시작하기 전에 XOR 테이블 값을 확인하십시오. 이것은 암호화 및 암호 해독 과정을 이해하는 데 도움이 될 것이다.XOR 암호 해독법은 기본적으로 적절한 키와 일치하는 랜덤 암호화 키를 생성하여 브뤼트 힘 방법으로는 해독하기 어려운 데이터를 암호화하는 데 사용된다. XOR Cipher를 이용한 구현의 개념은 XOR 암호화 키를 정의한 다음, 사용자가 암호화를 시도하는 이 키로 지정된 문자열에 있는 XOR 조작을 실시하는 것이다. 이제 우리는 아래에 언급된 텐서플로우를 이용한 XOR 구현에 초점을 맞출 것이다: 구배 최적화는 데이터 과학에서 중요한 개념으로 간주된다. 경사 강하 최적화의 구현을 이해하려면 아래 단계를 고려하십시오. 경사 강하 최적화를 정의하는 데 필요한 모듈 및 x 및 y 변수의 선언을 포함하십시오. 부분미분방정식(PDE)은 여러 독립변수의 알 수 없는 기능을 갖는 부분파생상품을 포함하는 미분방정식이다. 부분 미분 방정식과 관련하여, 우리는 새로운 그래프를 만드는 것에 초점을 맞출 것이다.