0과 아주 작은 값의 차이

갑자기 금요일 저녁에 들은 말이 생각났다

로또를 아예 사지 않으면 작을지라도 당첨될 확률, 기회조차 없다는 말

0과 아주 작은 값은 다르다고 그 차이가 딥러닝에서도 매우 중요하다는 말

렐루를 쓰면 음수일때 0이라서 아예 값을 무시한다는거를 언급하면서 말하셨다

 

 

내가 실생활과 빗대어서 생각하기엔 회사에 지원하지 않으면 혹시 모를 합격이라는 기회조차 아예 0이니까 도전해봐라

딥러닝 공부도 내가 AI 개발자가 될 수 있으니까 꾸준히 공부를 이어가서 그런 희박한 확률이라도 기회를 아예 없애지 말라는 생각이 들었다.

이런식으로 가끔씩 실생활과 빗대어서 하는 잡생각에 빠져있곤 한다

 

 

 

교수님이 원하신건 렐루가 있는데 리키렐루가 나온 이유에 대한 얘기가 아니였을까?

활성화함수로 0으로 반환하지 않는 것과 0으로 반환하는 것의 차이가 뭘까

궁금하긴 하다

음수일때 그 값을 무시하지 않으면 좀 더 정보가 많이 전달 되니까 태스크에 따라 성능이 좋을 수 있다는걸까?

 

 

딥러닝은 왜 잘 되는지 그 이유를 모르는 경우가 많다

사람들도 써보니까 그냥 잘된다길래 사용하는 것이기 때문

가중치들이 다 인공지능이 알아서 미분하면서 반복 학습하는거라 왜 잘되는지를 정확하게 모른다

인공지능이 동작하는 방식은 오직 인공지능만 정확하게 알겠지

 

 

 

 

성능이 잘 나오는 하이퍼파라미터 값을 찾기 위해서 바꿔서 돌려보고, 여러개의 모델도 바꿔본다.

랜덤씨드값도 언제 좋게 나올지 모르니 다 조절하고... 이유는 모르고 감으로 구현하고 있어서 답답하다

 

 

 

신기하고 재밌긴 하다

모델 설계와 숫자랑 활성화, 옵티마이저 함수 정도만 지정해줄 뿐인데 에포크를 여러번 반복학습 시키는 것만으로 맞춰서 학습이 된다는게 그게 성능이 좋단 것도 신기하다

사실은 모두 가중치의 곱셈으로 이뤄져있는데!! 이게 어떻게 잘되는거지?

왜인지 궁금하고 알고싶다

 

 

 

인공지능의 위협을 막는 방법과 인공지능의 작동원리에 대해서 궁금하고 연구하고 싶다.

인공지능이 이렇게 빠르게 발전하는데 분명히 그에 따른 피해도 클 것이라고 생각한다

가령 일을 잃는 사람도 있을테고, 개인정보 유출로 사생활 침해도 있을 것이고, 학습 데이터 무단 도용, 환경에 대한 이슈 등등 정말 많은 피해가 있을 것이라고 생각한다.

디지털 약자와의 격차도 더 커질 것이다.

이러한 것들을 미리 생각하고 방지하거나 대처하지 않는다면 큰 일이 있어날 것이라고 예측된다

 

 

 

 

---

 

 

논문을 읽으려고 꾸준히 노력하고 있고 나도 수식 읽을 줄만 알면 코드 구현은 가능할 것 같은데 수학 공부 진작에 좀 할껄 땅을 치고 후회하고 있다

 

수학공부와 영어공부도 계속해서 꾸준히 인공지능에 대해서 공부하고 싶다

만약 관련이 없는 직무로 취업을 하더라도 5년 이상은 꾸준히 탐구해보고 싶다

관련 직무로 취업이 되서 업무에 적용하기 위해서라면 좀 더 올인할 수 있을텐데 취업이 될랑가 ~.~ 

 

 

계속해서 새로운게 나오고 트렌드가 바뀐다고 하더라도 내가 습득한 것들은 다 축적되어서 도움이 될거라고 생각을 한다

이 분야에 기여하고 싶다는 마음이 너무 크다

한번 시작했으면 끝까지 가봐야지

왜 인공지능이 좋은건진 모르겠다

이유없이 좋다..

 

 

2년전에 선생님과 한 통화에서 "언젠가 데이터 과학자가 되었으면 좋겠다"는 말을 들은게 결정적으로 나를 통계와 인공지능의 세계로 이끌었다.

그 말을 하신건 갑자기 전화가 와서 하신 말씀이라 뜬금 없었지만 덕분에 찾아보고 꽂혀서 계속 하고 싶었다

 

 

불과 올해 6월만 해도 내가 인공지능을 배울 수 있을줄 몰랐다

살면서 해보고 싶은 것을 한다는 게 너무 행복하다 

동기들도 너무 친절하다.. 살면서 이렇게 착한 분들을 본적이 없다

좋은 사람들과 함께 해서 더 즐겁다

후회없는 매일매일을 사는 느낌

살아있길 잘했다