가우시안 분포를 포함한 많은 확률분포함수가 지수함수로 표현되고, 미분이 용이해 효율적인 모델의 학습이 가능하기 때문이다. 

예를 들어 물리학에서 소개돼 최근 딥러닝에서 많은 관심을 받고 있는 제한적 볼즈만 기계(Restricted Boltzmann Machine)는 계층 간 변수의 이항식을 지수로 사용하는 지수함수의 일종이다. 

구체적으로 제한적 볼즈만 기계에서는 다수의 이진 변수들이 각 계층에 서로 나누어져 있다는 가정으로, 서로 직접적으로 인접한 계층의 변수들만이 제한적으로 에너지라고 하는 잠재함수를 갖는다. 

이 에너지함수는 선호하는 두 변수가 함께 1의 신호를 보일 때 특정 에너지 W가 전체 에너지에 추가되는 것을 가정한다.