2026/07/17 15

컨텍스트 윈도우 — 길이 제한이 실제로 걸리는 지점

컨텍스트 윈도우를 "모델의 기억력"이라고들 합니다. 이 비유가 오해를 만듭니다. 기억이라는 말에는 쌓인다는 뉘앙스가 있는데, 실제로는 정반대에 가깝기 때문입니다.📐 기억이 아니라 책상 넓이입니다컨텍스트 윈도우는 모델이 한 번에 볼 수 있는 토큰의 총량입니다. 기억이 아니라 책상 넓이에 가깝습니다. 책상에 올려둔 것만 보이고, 넘치면 밀려 떨어집니다.여기서 중요한 사실 두 개가 나옵니다. 첫째, 대화 내역 전체가 매번 다시 올라갑니다. 모델은 이전 대화를 기억하는 게 아니라, 매 요청마다 지금까지의 대화를 통째로 다시 읽습니다. 대화가 길어질수록 매번 읽는 양이 늘어납니다.둘째, 입력과 출력이 같은 책상을 씁니다. 자료를 가득 채워 넣으면 답을 쓸 자리가 없어집니다. 긴 문서를 넣었더니 답이 중간에 끊기..

AI 기술 노트 12:26:50

RAG 구조 — 모델이 모르는 걸 답하게 만드는 방법과 그 한계

모델은 학습한 시점까지의 것만 압니다. 우리 회사 내부 문서는 당연히 모르고요. 그렇다고 문서를 넣어 다시 학습시키는 건 비싸고 느립니다. RAG는 다른 길을 택합니다. 모델을 바꾸는 대신, 질문할 때 자료를 같이 건네줍니다.📚 한 줄 요약: 오픈북 시험RAG는 검색(Retrieval)과 생성(Generation)을 붙인 것입니다. 사용자가 질문하면 먼저 관련 문서를 찾아서, 그 내용을 질문과 함께 모델에게 넘깁니다. 모델은 그걸 읽고 답합니다.핵심은 모델 자체는 전혀 안 바뀐다는 점입니다. 바뀌는 건 넣어주는 자료뿐입니다. 그래서 문서가 바뀌면 즉시 반영되고, 근거를 인용할 수 있습니다.🔧 파이프라인은 두 갈래입니다미리 해두는 쪽(색인): 문서를 적당한 크기로 자르고 → 각 조각을 임베딩(의미를 담..

AI 기술 노트 12:26:36

트랜스포머 어텐션 — 단어가 서로를 참조한다는 게 실제로 무슨 계산인가

어텐션을 설명할 때 흔히 "문장에서 중요한 단어에 주목한다"고 합니다. 틀린 말은 아닌데, 이걸로는 아무것도 이해가 안 됩니다. 주목한다는 게 어떤 숫자 연산인지가 빠져 있으니까요. 이 글은 그 계산을 따라가 봅니다.🧮 출발점: 단어 하나를 어떻게 표현하나먼저 문장을 토큰으로 쪼갭니다. 단어보다 작은 조각일 때가 많습니다. 각 토큰은 숫자 벡터로 바뀝니다. 이게 임베딩입니다.여기서 문제가 하나 생깁니다. 어텐션 연산 자체는 순서 개념이 없습니다. 토큰들을 집합처럼 다룹니다. 그래서 "개가 사람을 물었다"와 "사람이 개를 물었다"를 구분 못 합니다. 그래서 임베딩에 위치 정보를 따로 더해 넣습니다. 순서가 공짜로 주어지는 게 아니라 명시적으로 주입해야 하는 정보라는 점이 중요합니다.🔑 Query, Ke..

AI 기술 노트 12:26:23

모바일 청첩장 셀프 제작 — 업체 안 끼고 직접 만들어본 후기

모바일 청첩장은 업체에 맡기면 편합니다. 템플릿 고르고 사진 넣으면 끝이니까요. 그런데 막상 해보면 고르는 데서 시간이 다 갑니다. 마음에 쏙 드는 게 없어서요. 결국 직접 만들어봤는데, 생각보다 할 만했습니다.💌 청첩장은 결국 한 장짜리 페이지입니다거창해 보이지만 구조는 단순합니다. 인사말, 두 사람 이름, 날짜와 장소, 오시는 길, 연락처, 마음 전할 곳. 스크롤 한 번이면 끝나는 한 장입니다.이걸 알고 나니 접근이 쉬워졌습니다. 템플릿을 찾아 헤맬 게 아니라, 이 항목들을 어떤 순서로 놓을지만 정하면 되는 거였습니다.📵 직접 만들 때 챙겨야 했던 것첫째, 사진 무게. 스냅 사진을 원본 그대로 넣으면 한 장에 몇 메가입니다. 어르신들 폰에서 안 열립니다. 줄여서 넣어야 합니다.둘째, 카톡 미리보기..

반응형 웹 만들기 — 폰에서 깨지는 걸 뒤늦게 발견하지 않으려면

PC로 만들고 만족스러워서 링크를 보냈는데, 상대가 폰으로 열어보고 "글자가 다 겹쳐 보여요"라고 합니다. 제가 겪은 일입니다. 손님의 대부분은 폰으로 봅니다. 그런데 만드는 사람은 PC로 만듭니다. 여기서 사고가 납니다.📐 반응형이 뭐냐면화면 크기에 따라 배치가 알아서 바뀌는 걸 말합니다. PC에서 가로로 나란히 있던 세 칸이, 폰에서는 위아래로 한 줄씩 쌓이는 식이죠. 예전처럼 모바일 전용 사이트를 따로 만드는 대신, 하나로 다 대응하는 방식입니다.핵심은 고정 크기를 안 쓰는 것입니다. "가로 1200픽셀"이라고 못 박아두면 폰 화면에서 잘립니다. "화면의 90%"처럼 상대적으로 정해두면 화면이 좁아질 때 같이 좁아집니다. 이 차이 하나가 깨짐의 대부분을 만듭니다.📱 실제로 깨지는 곳은 정해져 있..

랜딩페이지 전환율 — 문의가 실제로 들어오는 페이지의 공통점

페이지는 예쁘게 나왔는데 문의가 없습니다. 방문자 수는 찍히는데 폼은 조용합니다. 이럴 때 디자인을 또 고치게 되는데, 제 경험상 범인은 디자인이 아니었습니다.🎯 첫 화면에서 이미 결정납니다들어온 사람은 스크롤을 내리기 전에 나갈지 말지를 정합니다. 그 짧은 순간에 답해야 하는 건 딱 두 가지입니다. "여기 뭐 하는 곳이지?" 그리고 "내 문제를 해결해주나?"그런데 많은 페이지가 첫 화면에 브랜드 슬로건을 답니다. "고객과 함께 성장하는 기업" 같은 문장이요. 이건 두 질문 중 어느 것에도 답을 안 합니다. "강남 사무실 이사 · 당일 견적"이 훨씬 낫습니다. 촌스러워 보여도 그쪽이 문의를 받습니다.📝 폼이 길면 사람이 도망갑니다문의 폼을 만들 때 자꾸 항목을 늘리게 됩니다. 미리 알아두면 편하니까요..

무료 CRM 프로그램 — 도입 전에 따져봐야 할 세 가지

"무료 CRM"을 검색하면 목록이 끝없이 나옵니다. 저도 몇 개를 깔아봤는데, 대부분 두 주 안에 안 쓰게 됐습니다. 기능이 부족해서가 아니라 제 상황에 안 맞아서였습니다. 고르기 전에 따져볼 게 있습니다.1️⃣ 무료의 범위가 어디까지인가무료라고 적혀 있어도 조건이 다 다릅니다. 사용자 수로 끊는 곳, 고객 수로 끊는 곳, 기능으로 끊는 곳이 있습니다.제일 조심할 건 고객 수로 끊는 방식입니다. 처음엔 여유롭지만 쌓일수록 한도에 가까워집니다. 하필 잘되고 있을 때 결제 요구를 받습니다. 그때는 이미 데이터가 안에 다 있어서 옮기기도 애매합니다. 시작할 때 이 계산은 해두시는 게 좋습니다.2️⃣ 데이터가 어떻게 들어오는가이게 제일 중요한데 제일 많이 놓칩니다. CRM 자체는 그릇입니다. 그릇이 예뻐도 담을..

고객 관리 프로그램 무료 — 엑셀로 버티다 한계가 오는 지점

처음엔 다 엑셀로 합니다. 저도 그랬습니다. 이름, 연락처, 문의 내용 적어두면 되니까요. 그런데 어느 순간부터 그 파일을 안 열게 됩니다. 그때가 도구를 바꿔야 하는 지점입니다.📉 엑셀이 무너지는 건 칸이 부족해서가 아닙니다엑셀은 아무 문제가 없습니다. 무너지는 건 입력하는 사람 쪽입니다. 전화가 오면 통화하면서 적어야 하는데, 손님 앞에서 노트북을 열 수가 없습니다. 그래서 일단 머리에 담아두고 나중에 적으려다 까먹습니다.카톡으로 온 문의, 인스타 DM, 전화, 방문. 창구가 네 개인데 파일은 하나입니다. 이걸 사람이 손으로 합치는 순간부터 빠지는 게 생깁니다. 견적 문의 하나 놓치면 그날 매출이 날아가는데, 그게 어디서 새는지도 모릅니다.그래서 무료 고객 관리 프로그램을 찾아보게 되는데, 여기서 ..

도메인 DNS 설정 — 산 주소를 내 사이트에 연결하기

도메인은 샀는데 그 다음이 막막합니다. 결제하고 나면 관리 화면에 A 레코드, CNAME, 네임서버 같은 단어가 나오는데 뭘 눌러야 할지 모르겠죠. 저도 처음엔 아무거나 눌렀다가 사이트를 하루 날렸습니다.📖 DNS는 전화번호부입니다도메인은 이름이고, 실제 사이트가 있는 곳은 번호(IP 주소)입니다. 사람은 이름을 기억하고 컴퓨터는 번호로 찾아갑니다. 그 사이를 이어주는 전화번호부가 DNS입니다. 도메인을 샀다는 건 이름을 등록한 것뿐이고, 번호를 안 적어두면 아무 데도 연결이 안 됩니다.그러니까 도메인 사고 나서 접속했는데 판매업체 광고 페이지가 뜬다면, 고장 난 게 아니라 아직 번호를 안 적은 상태입니다.🔤 A 레코드랑 CNAME 차이이 둘만 알면 대부분 해결됩니다. A 레코드는 이름에 번호를 직접..

구글 서치콘솔 등록 — 만든 사이트를 검색에 태우는 첫 단계

사이트를 만들면 구글이 알아서 찾아올 거라고 생각했습니다. 며칠 기다렸는데 검색해도 안 나오더군요. 만든 걸 아무도 모른다는 게 문제였습니다. 서치콘솔은 "여기 사이트 하나 생겼습니다"라고 알리는 창구입니다.📮 서치콘솔이 해주는 일크게 두 가지입니다. 하나는 알리는 것. 새로 만든 사이트나 새로 쓴 페이지를 구글에 읽어달라고 요청할 수 있습니다. 다른 하나는 보는 것입니다. 어떤 검색어로 사람들이 들어왔는지, 몇 등에 떠 있는지, 어떤 페이지가 문제가 있는지 알려줍니다.저는 두 번째가 더 쓸모 있었습니다. 내가 노린 검색어가 아니라 전혀 생각 못 한 검색어로 사람들이 들어오고 있다는 걸 여기서 알았거든요. 그 검색어에 맞춰 글을 손보면 바로 효과가 납니다.🔑 등록에서 막히는 지점등록 자체는 주소 넣으..