삐에로의 지식창고

개요 지난 글에서 선형회귀를 정리했다. 직선 하나로 숫자를 예측하고, 계수를 읽어 관계까지 해석하는 방법이었다. 이번엔 문제를 바꾼다. “이 고객이 카드값을 연체할까?”처럼 답이 숫자가 아니라 예/아니오인 문제다. 여기에 선형회귀를 그대로 쓰면 왜 안 되는지, 그리고 그걸 어떻게 고친 게 로지스틱회귀인지가 이 글의 내용이다. 미리 못 박아둘 게 하나 있다. 이름에 “회귀”가 붙어 있지만 로지스틱회귀는 분류 모델이다. 이 작명 때문에 초반에 꽤 헷갈렸는데, 이유는 글 중간에 나온다. 속에 선형회귀가 그대로 들어 있어서다. 1. 여기서부터 분류 — 왜 선형회귀로는 안 되나 이제 문제를 바꿔보자. “이 고객... Read More

개요 여기까지가 “머신러닝이란 무엇인가”였다면, 이제부터는 “그래서 어떻게 만드나”로 넘어간다. 방법론 편의 첫 타자는 선형회귀다. 가장 오래됐고 가장 단순한 모델이라 “일단 배우고 넘어가는 것” 정도로 생각했는데, 정리해보니 그게 아니었다. 지금부터 나올 모든 모델의 뼈대가 여기 다 들어 있다. 로지스틱회귀도 속을 열어보면 선형회귀가 들어 있고, 신경망도 결국 선형 계산을 겹겹이 쌓은 것이다. 그리고 선형회귀에는 다른 모델이 못 가진 특권이 하나 있다. 계수를 사람이 읽을 수 있다. 예측만 하는 게 아니라 “무엇이 결과에 영향을 주는가”를 문장으로 말해준다. 1. 선형회귀 — 가장 기초가 되는 방법 ... Read More

개요 지난 글의 결론은 “처음 보는 데이터에서 잘해야 한다”였다. 그런데 여기서 아주 곤란한 질문이 하나 남는다. 처음 보는 데이터에서의 성능을, 어떻게 미리 알 수 있는가? 말이 안 되는 것 같다. 안 본 데이터로 시험을 볼 순 없으니까. 이번 글의 앞부분은 이 모순을 푸는 방법이고, 뒷부분은 아예 정답이 없는 세계인 비지도학습이다. 1. 훈련 오류와 테스트 오류 먼저 두 오류를 구분해야 한다.   **훈련 오류** **테스트 오류** 어떤 데이터로? 학습에 **썼던** 데이터 학습에... Read More

개요 지난 글에서 학습 = 데이터 + 가설 공간 + 손실 함수로 가장 덜 틀리는 함수를 찾는 것이라고 정리했다. 그런데 거기서 슬쩍 넘어간 게 하나 있다. “덜 틀렸다”를 대체 무엇으로 재는가? 이번 글의 주제가 정확히 그거다. 지도학습이 뭔지 짚고, “얼마나 잘 맞췄나”를 숫자로 재는 방법들을 정리한다. 그리고 마지막에 머신러닝에서 가장 유명한 병인 오버피팅이 나온다. 1. 지도학습이란 한 줄로 정리하면 이렇다. 지도학습(Supervised Learning) = 입력(Feature) + 정답(Label)이 짝지어진 데이터로 예측 규칙을 배우는 방법 이름이 “지도”인 이유는 정답을 알... Read More

개요 AI 교육 과정이 시작됐다. 첫 시간의 주제는 “AI와 ML이 도대체 뭔가”였는데, 솔직히 처음엔 “이미 아는 얘기 아닌가?” 싶었다. 유튜브 추천, 스팸 필터, 챗봇… 매일 쓰고 있으니까. 그런데 정리하고 나니 내가 알던 건 결과물의 이름뿐이었고, 그 안에서 정확히 무슨 일이 벌어지는지는 하나도 몰랐다. 이번 글은 그 안쪽을 내 말로 다시 쓴 기록이다. 앞서 파이썬으로 데이터를 가공하고(NumPy·Pandas) 그림으로 확인하는(Matplotlib·Seaborn) 단계까지 정리했었다. 그건 “데이터에 뭐가 들어있는지 사람이 보는” 단계였고, 이번부터는 “그 데이터로 기계가 규칙을 배우는” 단계다. 도구... Read More

개요 맵과 전투가 돌아가기 시작하니 사람들에게 직접 시켜볼 수 있게 됐다. 그리고 예상대로, 직접 해본 사람의 말에서 나온 개선점이 기획서에 없던 것들이었다. 피드백 ① “지금 뭘 해야 하는지 모르겠어요” 가장 많이 나온 말이다. 만든 사람은 구조를 아니까 안 보이는 문제였다. 기능 명세 12장에는 UI가 거의 없었다. 합격 기준을 “숫자로 쓰라”고 강제했더니, 화면에 뭐가 보이는가는 명세로 잘 안 잡혔던 것이다. 규칙이 잘 작동한 대가로 생긴 빈틈이었다. 그래서 2단계 바이브 코딩 + Pixellab.ai 에셋 생성으로 채워 넣었다. 체력·공격 쿨다운 표시 오른쪽 아래에 각종 사용 키들을 ... Read More

개요 지난 글에서 데이터를 정제하는 데까지 왔다. 이번엔 scikit-learn이다. 이 라이브러리를 처음 만졌을 때 놀란 게 있다. 코드가 너무 짧다. 모델 학습이 세 줄이면 끝난다. model = LogisticRegression() model.fit(X_train, y_train) y_pred = model.predict(X_test) 그런데 짧아서 오히려 위험하다. 어려운 건 문법이 아니라 순서인데, 순서를 어겨도 에러가 안 난다. 대신 성능 숫자가 조용히 거짓말을 시작한다. 이번 글은 그 순서와 이유를 정리한다. 1. sklearn은 문법이 하나다 먼저 좋은 소식. scikit-learn... Read More

개요 앞선 Python 글에서 NumPy·Pandas로 데이터를 계산하고, Matplotlib·Seaborn으로 그림을 그리는 데까지 왔다. 그런데 AI를 하겠다고 검색을 시작하면 바로 벽에 부딪힌다. scikit-learn, PyTorch, TensorFlow, Keras, transformers, XGBoost, LightGBM… 이걸 다 배워야 하나? 처음엔 이름부터 외우려고 했다. 각 라이브러리의 대표 함수를 정리한 표를 만들어두고 외웠는데, 일주일 만에 전부 날아갔다. 맥락 없이 외운 건 남지 않는다는 걸 그때 알았다. 방향을 바꿔서 “이건 어느 자리에 있는 도구인가”부터 정리하니 그제야 붙... Read More