인공 지능을 훈련시키면서 나온 예기치 않은 행동들입니다. 워낙 길어서 목록을 따로 뺐네요.

 

https://docs.google.com/spreadsheets/u/1/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml

 

재미있는 거 몇 가지만 소개하면 이렇습니다.

 

먹을 수 있는 버섯과 독이 있는 버섯을 분리하기 위해 데이터를 교대로 보여줬더니, 그 데이터의 순서를 파악하지 버섯 이미지를 구분하지 않음.

 

비슷한 걸로 이미지를 보고 분류하도록 시켰더니 이미지가 깔려있는 경로를 보고 파악함.

 

게임에서 질것 같으면 게임을 무한으로 멈추거나 게임을 강제로 종료시켜서 '지지 않는' 방법을 찾아냄. 게임 맵을 뚫어버리는 버그도 악용함. 버그를 악용해서 점수를 왕창 얻는 방법도 사용. 
 

팬케이크를 만드는 로봇의 시뮬레이션 최대한 많은 시간을 활용하기 위해 팬케이크를 최대한 높이 던짐.