AI 혁명의 미래 | 정인성, 최홍섭 저

20230210
새로운 길을 개척하는 것을 우리는 도전이라 부른다. 세상은 도전으로 변했다.

20230213
생산업체의 비용을 줄이는 방법은 두 가지로 요약할 수 있는데 하나는 수율을 높이는 것이고 다른 하나는 자동화 비율을 높이는 것이다. 수율이란 인풋 대비 아웃풋의 비율을 말한다.

신경망을 모방한 ai는 사람이 개입해야 했던 자리를 대체할 것이다. 이를 통해 수율, 자동화율이 모두 개선되는 효과를 얻을 수 있다.

20230215
창작할 수 있는 AI는 두 개의 인공신경망 모델을 도입한 덕분에 가능해졌다. 즉, 하나의 신경망 모델은 시도를 하며 다른 하나의 신경망 모델은 결과를 평가하는 것이다. 이렇게 하여 보다 그럴싸한 결과를 시도하게 된다.

20230216
의사결정은 상황에 따라 결정이 달라지므로 개와 고양이를 판단하는 것과는 다른 방식의 접근이 필요하다. 의사결정에 사용되는 인공지능 학습법을 강화학습이라 하는데 context, action, return value(benefit)로 구성된다. 즉, 어떤 상황에서 어떤 행동을 할 때 어떤 결과를 얻는가를 통해 취한 행동의 가치를 평가하게 된다. 이 가치를 극대화하도록 학습시키는 것이 강화학습이다. 강화학습을 응용해 볼 수 있는 영역은 무엇이 있을까? 어떤 데이터들을 분석해서 특정 결과에 근접하는 패턴을 찾는 트레이딩 영역

20230221
인간의 언어를 이해하고 인간처럼 말하기 위한 노력은 최근 GPT-3의 등장으로 꽃을 피웠다. 무엇때문에 이러한 성과가 가능했을까? 인간의 언어를 처리하는 방식의 변화가 이룬 성취이다. 그동안은 언어를 이해하는 영역과 언어를 만드는 영역을 분리하여 접근했다. 그러나 인간의 대화 방식을 모방하면서 이해와 말하는 것은 서로 주고받는다는 것에 힌트를 얻었다. 이러한 힌트에서 초거대 언어 모델을 만들기에 이르렀고 이를 적용한 GPT-3는 자연어 처리의 올바른 방향을 제시해 주었다.
그러나 중요한 것은 GPT-3가 학습한 데이터 사이즈가 아니라 학습한 데이터의 수준과 양이다.

20230222
최근 몇 년은 인공지능이 할 수 있는 분야와 범위를 탐색하고 가능성을 확인하는 시간이었다.

20230303
인공지능의 발전에 필요한 기술은 2012년에 대부분 준비되었다. 그러나 이론의 완성이 구현까지 완성한 것은 아니기에 실제 제품으로 실현되기까지는 해결해야할 것들이 많았다. 인공지능을 구현하려면 데이터와 신경망이 필요한데 신경망이 인공지능의 목적을 규정하는 본체이며 데이터는 인공지능의 품질을 결정짓는 소양과 같다. 데이터를 학습하는 방법은 인간의 학습법과 달라 데이터를 수백만 번 학습하는데 그러한 데이터를 매번 사람이 참견할 수 없어 데이터에 꼬리표를 달아두어 그것이 어떤 데이터인지 가이드를 해주는데 이를 annotation이라 한다. 또한 인공지능의 학습 수준을 평가하기 위한 시험을 치르며 이는 새로운 데이터에 대한 신경망의 판단을 평가하며 향후 학습에 대한 방향성을 조정하는 기준이 된다.

20230309
인공신경망이 학습하는 것은 데이터인데 어떠한 데이터를 학습하느냐에 따라 인공지능의 판단력이 달라진다. 충분한 데이터를 제공하기에 앞서 인공지능의 목적에 맞는 데이터를 수집하는 것이 바람직하다. 목적에 맞는 데이터를 수집했다면 Over Sampling/Under Sampling을 해서 편향된 데이터를 가공할 수 있으나 가장 좋은 것은 그러한 가공없이도 충분한 양의 데이터를 제공하는 것이다. 그러한 데이터에는 Annotation 과정을 거쳐 데이터의 성격을 구분한다.

Data Augmentation 기법은 인공신경망이 데이터의 본질을 깨닫게 돕는다. 예를들면 동일한 데이터에 의도적으로 노이즈를 발생시켜 인공지능이 그러한 노이즈 때문에 데이터의 본질을 판단하지 못하는 일이 없도록 훈련시키는 것이다. 이를 통해 인공지능은 모르던 것을 알게 되는 것이 아니라 아는 것을 더욱 잘 알게 된다. 즉 무엇을 알아야 하는지를 알게 하는 것이다.