1963년 뮌헨에서 태어난 위르겐 슈미트후버(Jürgen Schmidhuber)는 인공지능과 신경망의 진화에 있어 핵심적인 인물입니다. 수십 년간의 학문적 및 기관적 경력을 아우르는 그의 연구는 현대의 많은 계산 작업을 뒷받침하는 딥러닝 아키텍처에 초점을 맞추고 있습니다. 그의 기여는 재귀적 구조와 자기지도 학습의 초기 이론적 발전과 광범위한 현대적 응용을 연결합니다.
학문적 기반 및 연구 리더십
슈미트후버는 1991년 뮌헨 공과대학교에서 학사 및 박사 학위를 마쳤으며, 빌프리트 브라우어와 클라우스 슐텐의 지도를 받았습니다. 그의 경력에는 뮌헨 공과대학교와 스위스 이탈리아어 대학교에서의 교육직이 포함됩니다. 1995년부터 그는 스위스의 달레 몰레 인공지능 연구소를 이끌고 있습니다. 2021년에는 사우디아라비아의 킹 압둘라 과학기술대학교(KAUST)에 합류하여 컴퓨터, 전기 및 수학 과학 공학부 내의 AI 이니셔티브를 지휘하고 있습니다.
재귀적 아키텍처와 장단기 기억(LSTM)
1990년대에 슈미트후버는 딥러닝에서 역전파의 한계를 다루었습니다. 기울기 소실 문제를 분석한 제자 셉 호크라이터의 1991년 졸업 논문에 이어, 슈미트후버는 장단기 기억(LSTM)의 개발을 촉진했습니다. 1995년 기술 보고서에서 소개되고 1997년에 발표된 LSTM은 자연어 처리를 위한 지배적인 기술이 되었습니다. 이후의 개선 사항으로는 2000년 펠릭스 거스와 프레드 커민스와 함께한 표준 아키텍처, 2006년 알렉스 그레이브스와 함께한 연결주의 시간 분류가 있습니다.
신경망의 혁신
LSTM을 넘어 슈미트후버는 다양한 신경망 개념을 탐구했습니다. 1991년에 그는 경쟁 네트워크가 제로섬 게임을 통해 상호 작용하는 '인공 호기심'이라 불리는 적대적 신경망을 도입했습니다. 이 프레임워크는 현대의 적대적 생성 신경망(GAN)에 정보를 제공합니다. 1992년에 그는 비정규화 선형 트랜스포머의 전신인 '고속 가중치 프로그래머'를 발표했습니다. 또한 2011년 IDSIA의 그의 팀은 그래픽 처리 장치를 사용하여 합성곱 신경망의 속도를 크게 향상시켜 컴퓨터 비전 대회에서 인간을 능가하는 성능을 달성했습니다.
상업적 벤처 및 전문적 인정
2014년 슈미트후버는 금융 및 중공업과 같은 분야에서 AI의 상업적 응용을 탐구하기 위해 NNAISENSE를 설립했습니다. 초기에는 범용 인공지능에 초점을 맞추었으나, 나중에 자산 관리로 강조점을 옮겼습니다. 이 분야에 대한 그의 기여는 2016년 IEEE 신경망 개척자상을 포함하여 공식적인 인정을 받았습니다. 그는 유럽 과학 예술 아카데미 및 유럽 학습 및 지능형 시스템 연구소의 회원입니다.
빠른 사실
- 출생: 1963년, 독일 뮌헨 - 교육: 뮌헨 공과대학교 (1991년 박사 학위) - 주요 개발: 장단기 기억(LSTM) - 산업 초점: NNAISENSE를 통한 AI 응용 - 현재 직책: KAUST AI 이니셔티브 디렉터 - 주목할 만한 상: IEEE 신경망 개척자상 (2016년)
독자 질문
### 고속 가중치 프로그래머의 중요성은 무엇인가요?
1992년 슈미트후버가 발표한 고속 가중치 프로그래머는 재귀적 신경망의 대안으로, 나중에 현대의 비정규화 선형 트랜스포머와 동일한 것으로 확인되었습니다.
### NNAISENSE 회사의 주요 초점은 무엇인가요?
2014년에 설립된 NNAISENSE는 초기에는 금융 및 자율 주행 자동차와 같은 분야의 AI 상업적 응용을 목표로 했으며, 나중에 자산 관리로 초점을 옮겼습니다.
.jpg)