삐에로의 지식창고

개요 그동안 계속 미뤄둔 질문 두 개를 여기서 정리한다. 선형회귀보다 복잡한 관계는 어떻게 표현하나? → 신경망 공식으로 안 풀리면 값을 어떻게 정하나? → 경사 하강법과 역전파 첫 글에서 “학습 = 가설 공간에서 가장 덜 틀리는 함수 찾기”라고 했는데, 이번 글은 그 두 부분을 각각 넓히고 채우는 이야기다. 신경망이 가설 공간을 넓히고, 경사 하강법이 그 안에서 찾아간다. 1. 다시 출발점 — 모델은 값이 채워진 함수다 신경망으로 넘어가기 전에 관점을 하나 정리하고 간다. 단순 선형 모델은 이렇게 생겼다. y = φ₀ + φ₁x φ(파이)라는 새 기호가 나왔지만 겁먹을 것 없다. 앞... Read More

개요 지난 글에서 선형회귀를 정리했다. 직선 하나로 숫자를 예측하고, 계수를 읽어 관계까지 해석하는 방법이었다. 이번엔 문제를 바꾼다. “이 고객이 카드값을 연체할까?”처럼 답이 숫자가 아니라 예/아니오인 문제다. 여기에 선형회귀를 그대로 쓰면 왜 안 되는지, 그리고 그걸 어떻게 고친 게 로지스틱회귀인지가 이 글의 내용이다. 미리 못 박아둘 게 하나 있다. 이름에 “회귀”가 붙어 있지만 로지스틱회귀는 분류 모델이다. 이 작명 때문에 초반에 꽤 헷갈렸는데, 이유는 글 중간에 나온다. 속에 선형회귀가 그대로 들어 있어서다. 1. 여기서부터 분류 — 왜 선형회귀로는 안 되나 이제 문제를 바꿔보자. “이 고객... Read More

개요 여기까지가 “머신러닝이란 무엇인가”였다면, 이제부터는 “그래서 어떻게 만드나”로 넘어간다. 방법론 편의 첫 타자는 선형회귀다. 가장 오래됐고 가장 단순한 모델이라 “일단 배우고 넘어가는 것” 정도로 생각했는데, 정리해보니 그게 아니었다. 지금부터 나올 모든 모델의 뼈대가 여기 다 들어 있다. 로지스틱회귀도 속을 열어보면 선형회귀가 들어 있고, 신경망도 결국 선형 계산을 겹겹이 쌓은 것이다. 그리고 선형회귀에는 다른 모델이 못 가진 특권이 하나 있다. 계수를 사람이 읽을 수 있다. 예측만 하는 게 아니라 “무엇이 결과에 영향을 주는가”를 문장으로 말해준다. 1. 선형회귀 — 가장 기초가 되는 방법 ... Read More

개요 지난 글의 결론은 “처음 보는 데이터에서 잘해야 한다”였다. 그런데 여기서 아주 곤란한 질문이 하나 남는다. 처음 보는 데이터에서의 성능을, 어떻게 미리 알 수 있는가? 말이 안 되는 것 같다. 안 본 데이터로 시험을 볼 순 없으니까. 이번 글의 앞부분은 이 모순을 푸는 방법이고, 뒷부분은 아예 정답이 없는 세계인 비지도학습이다. 1. 훈련 오류와 테스트 오류 먼저 두 오류를 구분해야 한다.   **훈련 오류** **테스트 오류** 어떤 데이터로? 학습에 **썼던** 데이터 학습에... Read More

개요 지난 글에서 학습 = 데이터 + 가설 공간 + 손실 함수로 가장 덜 틀리는 함수를 찾는 것이라고 정리했다. 그런데 거기서 슬쩍 넘어간 게 하나 있다. “덜 틀렸다”를 대체 무엇으로 재는가? 이번 글의 주제가 정확히 그거다. 지도학습이 뭔지 짚고, “얼마나 잘 맞췄나”를 숫자로 재는 방법들을 정리한다. 그리고 마지막에 머신러닝에서 가장 유명한 병인 오버피팅이 나온다. 1. 지도학습이란 한 줄로 정리하면 이렇다. 지도학습(Supervised Learning) = 입력(Feature) + 정답(Label)이 짝지어진 데이터로 예측 규칙을 배우는 방법 이름이 “지도”인 이유는 정답을 알... Read More

개요 AI 교육 과정이 시작됐다. 첫 시간의 주제는 “AI와 ML이 도대체 뭔가”였는데, 솔직히 처음엔 “이미 아는 얘기 아닌가?” 싶었다. 유튜브 추천, 스팸 필터, 챗봇… 매일 쓰고 있으니까. 그런데 정리하고 나니 내가 알던 건 결과물의 이름뿐이었고, 그 안에서 정확히 무슨 일이 벌어지는지는 하나도 몰랐다. 이번 글은 그 안쪽을 내 말로 다시 쓴 기록이다. 앞서 파이썬으로 데이터를 가공하고(NumPy·Pandas) 그림으로 확인하는(Matplotlib·Seaborn) 단계까지 정리했었다. 그건 “데이터에 뭐가 들어있는지 사람이 보는” 단계였고, 이번부터는 “그 데이터로 기계가 규칙을 배우는” 단계다. 도구... Read More

개요 데이터 가공 이후 이를 사람이 쉽게 분석하기(EDA) 위해 자료들을 시각화할 라이브러리가 필요하다! 이에 주로 사용되는 Matplotlib와 코드 가독성 및 그래프를 쉽게 그릴 수 있게 도와주는 Seaborn 라이브러리를 정리하려한다. 지난 글에서 정리한 NumPy·Pandas가 데이터를 계산하는 단계였다면, 이번엔 그 결과를 사람 눈에 보이게 만드는 단계다. 왜 굳이 그림으로 바꿔야 할까? print(df.describe()) # 숫자 40개가 화면에 쏟아진다. 그래서... 뭐가 이상한 건데? describe()가 뱉은 숫자표를 아무리 노려봐도 “3등석 요금에 이상하게 비싼 값이 하나 껴 있다” 같... Read More

개요 AI 활용 도구에 필수로 쓰이는 데이터 가공 Python 라이브러리들(Numpy, Pandas)을 정리 해두려 한다. Pandas는 데이터를 읽고, 정리하고 탐색하는데 이용하고 NumPy는 정리된 데이터(숫자)를 계산하는데 이용한다. Pandas = 표를 다루는 손 / NumPy = 숫자를 계산하는 머리 식당으로 비유하면 Pandas는 재료를 다듬고 분류하는 주방 보조, NumPy는 실제로 불을 다루는 주방장이다. 둘은 경쟁 관계가 아니라, Pandas가 내부에서 NumPy를 부려 쓰는 상하 관계다. 실제로 df[“price”].values를 찍어보면 정체가 numpy.ndarray로 나온다. ... Read More