AI 배우기

AI·LLM의 기초부터 최신 연구까지.

분류: 3 · 항목: 30 · 용어: 35

궁금한 내용을 찾아보세요

‘AI 배우기’에서 검색합니다. 단어를 공백으로 구분하면 모든 단어를 포함하는 항목을 찾습니다.

읽고 싶은 곳부터

AI를 처음 배우기AI·기계 학습·생성 AI의 차이로부터.모델 내부 살펴보기신경망에서 Transformer까지, 그림과 계산으로 배웁니다.최근 연구 읽기9개의 동향과 10개 논문의 참고문헌.

모든 학습 항목

항목: 30 · 용어: 35

AI·LLM의 기초14

AI가 처음이라도 연구·학습·제공의 의미를 알 수 있다. 현실의 AI의 기본을 친숙한 예에서.

이 카테고리는 현실 AI의 기본 지식입니다. 게임내의 성능・비용・일수는 경영을 하기 위한 표현입니다. 관련 조작은 각 항목의 「아울러 읽기」에서 확인할 수 있습니다.

그림으로 살펴보기

AI·기계 학습·생성 AI는 무엇이 다른가?

AI는 인식·예측·판단 등을 컴퓨터에서 실시하는 기술의 넓은 호칭입니다. 기계 학습은 데이터로부터 규칙성을 배우는 방법, 생성 AI는 문장이나 이미지 등을 만드는 AI를 가리킵니다.

왼쪽에 규칙을 보고 봉투를 구분하는 사람, 중앙에 분류된 예를 비교하는 사람, 오른쪽에 새로운 회신을 만드는 사람을 그린 일러스트 — AI · 기계 학습 · 생성 AI
같은 메일에서도 분류와 회신 만들기에서는 역할이 다릅니다.

심층 학습은 기계 학습의 일종입니다.

신경망이라고 하는 계산의 구조를, 많은 층에서 조합하는 방법입니다. LLM 등의 기반이 되고 있습니다. 모든 AI가 심층 학습으로 만들어진 것은 아닙니다.

표를 좌우로 스크롤할 수 있습니다.

우선 3가지 단어를 구별
단어	의미	예
AI	지적 작업을 수행하는 전체 기술. 정해진 룰로 움직이는 구조도 포함한다.	게임 상대, 이미지 인식
기계 학습(ML)	예제 데이터를 사용하여 예측 및 분류 규칙성을 배웁니다.	정크 메일 분류, 판매 예측
생성 AI	배운 규칙성을 사용하여 새로운 내용을 생성합니다.	문장 초안, 이미지 및 음성 생성

예:같은 메일에서도 역할이 다릅니다.

「스팸 메일인지를 판정한다」는 분류, 「답장의 문장을 만든다」는 생성입니다. AI 기업은 고객이 요구하는 작업에 맞게 기술을 선택합니다.

AI Inc.에서 생각하면

연구 분야를 선택할 때 기술의 이름뿐만 아니라 다음 모델에서 어떤 작업을 할 수 있는지 궁금합니다.

이 항목에 대한 링크

LLM이란? 어떻게 문장을 만드는가?

LLM은 "대규모 언어 모델"의 약자입니다. 대량의 문장 등에서 말의 규칙성을 배워 문장의 생성·요약·번역 등에 사용됩니다.

왼쪽에 짧은 종이 조각의 열을 받는 사람, 중앙에 다음 후보의 종이 조각을 비교하는 사람, 오른쪽으로 길어진 종이 조각의 열과 출력 용지를 취급하는 사람을 그린 일러스트 — LLM: 연속을 계산하여 문장 만들기
문맥으로부터 다음의 후보를 계산해, 계속을 거듭합니다.

후보 후보 계산

문장을 작은 단위의 토큰으로 나누고 입력과 그때까지 생성한 내용을 바탕으로 다음 토큰의 후보와 확률을 계산합니다. 이 과정을 반복하여 답변을 만듭니다.

모델과 채팅 앱은 별도

모델은 입력에서 출력을 계산하는 부분입니다. 채팅 앱은 대화 기록, 검색, 파일, 도구 등을 결합하여 모델을 사용합니다. 어떤 기능을 사용할 수 있는지는 앱에 따라 다릅니다.

예:"비이므로"의 계속을 생각한다.

「우산을 가져간다」「외출을 연기한다」등, 전후의 문맥에 맞는 후보가 있습니다. LLM은 이러한 연속을 더 긴 문장에서도 계산합니다. 실제 처리는 단어 단위가 아닙니다.

조심하다

자연스러운 문장을 써도 내용이 옳다고는 할 수 없습니다. 학습한 지식, 전달된 자료, 검색한 정보의 범위를 확인해야 합니다.

AI Inc.에서 생각하면

완성된 모델과 고객에게 제공하는 API 상품은 별도의 단계입니다. 모델을 만든 후에 사용법, 요금, 공급을 정돈하는 이유로 이어집니다.

이 항목에 대한 링크

token과 컨텍스트 창이란?

토큰은 모델이 다루는 문장과 같은 작은 단위입니다. 컨텍스트 창은 한 번의 처리에서 참조할 수 있는 정보 길이의 상한을 나타냅니다.

책상 위에 선택한 자료를 사용하는 연구자와 책상 밖의 선반에 버려진 책이나 파일을 그린 일러스트 — 컨텍스트: 이번에 사용하는 정보
책상 위의 자료와 선반에 버린 자료를 나누어 생각합니다.

문자 수와 단어 수와 일치하지 않음

토큰은 단어, 단어의 일부, 문자 등입니다. 나누는 방법은 모델이나 언어로 바뀌므로 일본어 한 문자를 항상 1 토큰으로 계산할 수 없습니다.

대화나 자료도 참조하는 정보가 된다

앱이 전달하는 지침, 대화 기록, 자료 등이 컨텍스트에 들어갑니다. 입력 및 출력 상한의 취급은 모델에 따라 다릅니다. 긴 자료를 넣어도 그 모든 것을 정확하게 이용할 수 있는 보증은 없습니다.

예:자료를 책상에 펼치는 이미지

컨텍스트는 그 대답을 만들기 위해 책상에 펼친 자료에 가깝습니다. 자료를 책상에 놓는 것과 모델 자체를 추가 학습하는 것은 다릅니다.

AI Inc.에서 생각하면

취급하는 정보가 늘어나면, 현실의 서비스에서는 계산이나 메모리의 부담도 바뀝니다. 게임에서는 고객에게 제공하기 위한 추론 수요와 공급을 확인합시다.

이 항목에 대한 링크

매개변수가 많을수록 좋은 모델일까요?

매개변수는 학습에서 조정할 모델 내부의 숫자입니다. 모델 규모를 나타내는 단서가 됩니다만, 수가 많은 것만으로 용도에 맞는 것은 판단할 수 없습니다.

왼쪽에 노브를 조정하는 사람, 중앙에 의뢰와 응답의 용지를 비교하는 사람, 오른쪽에 계산기·시계·기재 케이스를 사용해 자원과 비용을 생각하는 사람을 그린 일러스트 — 모델 선택:규모・용도・비용
수가 많을 뿐만 아니라, 사용하는 일의 조건으로 비교합니다.

학습으로 조정할 수치

신경망의 가중치 등을 가리킵니다. 대량의 예로부터, 목적에 맞는 출력을 낼 수 있도록 조정합니다. 매개변수의 수는 알고 있는 사실의 수를 나타내지 않습니다.

성능·자원·용도를 함께 본다

규모 외에도 데이터의 품질, 설계 및 학습 방법은 결과와 관련이 있습니다. 대형 모델은 일반적으로 많은 컴퓨팅 자원과 메모리를 필요로 하지만 구성과 최적화에서도 부담이 바뀝니다. 실제 용도로 비교합시다.

예:짧은 텍스트 분류와 복잡한 글쓰기

짧은 문의 분류는 가벼운 모델로 충분할 수 있습니다. 복잡한 문장 작성에는 더 높은 능력이 필요할 수 있습니다. 필요한 품질을 충족하는 모델의 속도와 비용을 비교합니다.

AI Inc.에서 생각하면

모델 설계에서는 예측 성능뿐만 아니라 학습 비용과 추론의 부하·속도도 보십시오. 규모를 늘리는 판단과 사업으로 계속되는 판단을 맞춥니다.

이 항목에 대한 링크

학습과 추론은 어떻게 다른가?

학습은 모델 내부의 수치를 조정하는 공정, 추론은 학습된 모델을 사용하여 대답을 계산하는 공정입니다. 이용자에 대한 답변에도 계산자원이 필요합니다.

왼쪽에 많은 예를 사용하여 모델을 조정하는 연구자, 오른쪽에 학습된 모델로 답변을 얻는 사용자를 그린 일러스트 — 학습과 추론
모델을 만들 때도 사용할 때도 계산이 필요합니다.

학습은 예제에서 모델을 조정하는 시간

예제에 대한 출력과 학습 목표를 비교하여 내부 수치를 조정합니다. 모델을 만드는 공정과 만든 모델을 이용하는 공정을 나누어 생각하면 자원과 비용의 차이를 이해하기 쉬워집니다.

추론은 지금의 의뢰에 대답하는 시간

학습된 숫자를 사용하여 입력에서 출력을 계산합니다. 일반적인 추론은 답변할 때마다 내부 숫자를 다시 학습하는 과정이 아닙니다. 대화와 자료를 이번 입력으로 참조하는 것은 추가 학습과는 별도입니다.

표를 좌우로 스크롤할 수 있습니다.

모델을 키우는 공정과 사용하는 공정
확인하기	학습	추론
목적	예시를 통해 모델 매개변수 조정	새 입력에 대한 출력 계산
입력 예	학습용 문장, 질문 및 답변의 예	이용자의 질문, 참조하는 자료
내부 수치	학습으로 업데이트	일반 추론으로 업데이트하지 않음
자원의 사용도	모델을 만들고 개량하기 위한 계산	고객 요청을 처리하기 위한 계산

예:만든 후에도 운영비가 걸린다.

문의에 답하는 모델을 완성시켜도, 이용자가 질문할 때마다 추론이 필요합니다. 동시에 사용하는 사람이 늘어나면 필요한 제공 능력도 늘어납니다.

조심하다

대화의 저장과 입력을 미래의 학습에 이용하는 서비스 방침과 지금의 대답 중에 파라미터가 갱신되는 것은 별도입니다.

AI Inc.에서 생각하면

학습용 및 추론용 계산 자원은 또 다른 역할입니다. 학습이 완성되어도, 추론에의 배분이 부족하면 고객에게의 공급이 부족해집니다.

이 항목에 대한 링크

사전 학습과 파인 튜닝이란?

사전 학습은 넓은 데이터로부터 기본이 되는 규칙성을 배우는 공정, 파인 튜닝은 학습이 끝난 모델을 추가의 데이터로 조정하는 공정입니다.

왼쪽에 폭넓은 책이나 자료로 학습의 토대를 만드는 연구자, 오른쪽에 맞춘 용도별의 예로 학습 끝난 모델을 조정하는 연구자를 그린 일러스트 — 사전 학습과 추가 학습
기초를 만들고 사용하는 작업에 맞게 조정합니다.

사전 학습으로 기반 만들기

많은 언어 모델은 문장의 연속을 예측하는 등의 과제를 대량으로 풀어 단어의 규칙성을 배웁니다. 학습된 토대를 이용하면 매번 0부터 모델을 만들 필요가 없습니다.

추가 학습으로 용도에 맞추기

질문과 원하는 답변의 예에서 지침을 따르거나 특정 작업 및 출력 형식에 맞게 조정할 수 있습니다. 지시에 대한 대응이나 사람의 평가를 사용하는 학습은, 사전 학습 후의 포스트 트레이닝에 포함됩니다.

예:문의 분류 형식 정렬

문의문과 「청구」「계약」「조작」의 분류예를 사용해 정해진 형식으로 출력하기 쉽게 하는 추가 학습을 생각할 수 있습니다. 개선했는지는 학습에 사용하지 않은 예에서 확인합니다.

조심하다

추가 학습은 자료를 검색하는 RAG와 다릅니다. 새로운 사실을 확실히 기억시키는 방법으로서 무조건 선택하는 것은 아닙니다.

AI Inc.에서 생각하면

상위 모델 모델을 이용한 파생 개발은 기존의 토대를 활용하는 사고방식으로 이어집니다. 게임에서 인계하는 성능이나 비용의 조건은, 대상의 확인 화면을 읽어 주세요.

이 항목에 대한 링크

학습 데이터는 양만큼 늘리면 좋을까?

데이터는 양뿐만 아니라 정확도, 다양성 및 용도에 근접해야합니다. 학습에서 본 예에만 강하고, 새로운 예에 약한 상태를 「과적합」이라고 부릅니다.

왼쪽에 같은 형태의 자료를 많이 쌓은 책상, 중앙에 다른 자료를 비교해 정돈하는 사람, 오른쪽에 다른 파일로부터 꺼낸 예와 출력 용지를 대조하는 사람을 그린 일러스트 — 학습 데이터 : 양 · 질 · 확인 방법
예를 늘릴 뿐만 아니라, 정돈하고, 다른 예로 확인합니다.

사용하는 장면에 가까운 예를 정돈한다

오류, 중복 및 편향된 데이터는 결과에도 영향을 미칩니다. 어떤 질문, 언어, 이용자를 상정할지를 결정하고 실제 이용을 대표하는 예를 준비합니다.

학습 및 평가 데이터 분리

학습에서 기억한 예만으로 평가하면 새로운 입력에도 대응할 수 있는지 판단하기 어려워집니다. 조정에 사용하는 검증용 데이터와 마지막에 확인하는 테스트용 데이터도 구별합니다.

예:짧은 질문만으로 배우면

짧은 정형문에 강해도, 긴 상담이나 말투의 다른 질문에 약할지도 모릅니다. 사용자가 실제로 작성하는 예를 포함하여 사용하지 않은 데이터로 확인합니다.

AI Inc.에서 생각하면

데이터의 허가 취득, 정비, 학습에의 선택은 다른 단계입니다. 현실의 데이터 품질의 사고방식을 알면 게임에서 정비를 하는 목적도 잡기 쉬워집니다.

이 항목에 대한 링크

프롬프트를 쓰는 것도 학습일까요?

프롬프트는 모델에 전달하는 지침과 정보입니다. 일반적으로 응답의 조건을 변경하고 모델 매개 변수를 업데이트하는 학습과 다릅니다.

왼쪽에 의뢰 용지를 나타내는 사람, 중앙에 열린 자료와 의뢰 용지를 늘어놓는 사람, 오른쪽에 3장의 카드로 출력의 형태를 나타내는 사람을 그린 일러스트 — 프롬프트: 목적·자료·출력 형식
무엇을 하고 싶은지, 무엇을 사용하는지, 어떻게 돌려줄까를 전합니다.

목적·자료·출력 형식을 전한다

무엇을 하고 싶은지, 어떤 정보를 사용하는지, 어떤 형태로 대답해 주었으면 하는지를 구체적으로 씁니다. 필요한 경우 원하는 출력 예제도 전달합니다.

대화의 연속은, 참조하는 정보의 계속

과거의 발언을 사용할 수 있는 이유는 앱이 그것을 모델에 전달하는 등의 메커니즘이 있기 때문입니다. 대화 중에 새로운 정보를 사용할 수 있다는 것만으로는 모델이 영구적으로 배웠다고 말할 수 없습니다.

예:'요약하여'를 구체적으로

“다음 회의록만을 사용해 결정 사항을 3개의 글머리표로 해 주세요.자료에 없는 것은 보충하지 말아 주세요.”와 같이, 목적과 범위, 형식을 전합니다.

조심하다

지침을 자세히 쓰는 것이 도움이되지만 오류를 제거하는 보증은 없습니다. 출력을 실제 자료와 비교합시다.

AI Inc.에서 생각하면

게임 내 모델 설계 및 학습 시작과 현실 채팅으로 지침을 작성하는 작업은 다릅니다. 설계를 보존하는 것만으로는 본 학습의 비용과 진행은 발생하지 않습니다.

이 항목에 대한 링크

RAG와 임베딩이란? 추가 학습과는 어떻게 다를까요?

RAG는 답변에 필요한 자료를 검색하고 찾아낸 내용을 모델에 전달하여 생성하는 방법입니다. 검색할 자료는 모델 매개변수와 별도로 관리됩니다.

왼쪽에서 자료를 찾는 사람, 필요한 자료를 컴퓨터에 전달하는 사람, 자료와 답변을 확인하는 사람을 그린 일러스트 — RAG: 자료를 찾은 뒤 답하기
검색한 자료를 응답을 위해 모델에 전달합니다.

찾기 → 자료 전달 → 대답하기

질문과 관련된 사내 매뉴얼 등을 찾아 해당 부분을 질문과 함께 전달합니다. 업데이트된 자료를 참조하기 위해 전체 모델을 다시 학습할 필요가 없습니다.

임베딩으로 비슷한 내용 찾기

Embedding은 문장 등의 특징을 수치로 표현하는 방법입니다. 그 근접을 검색에 사용할 수 있습니다. RAG는 키워드 검색과 둘 모두를 결합하는 방법도 있습니다.

왼쪽에 지시의 종이를 건네주는 사람, 중앙에 선반에서 선택한 자료를 질문과 나란히 건네주는 사람, 오른쪽에 복수의 예를 보면서 조정기의 노브를 움직이는 연구자를 그린 일러스트 — 정보를 사용하는 방법의 차이
문의 대응을 예로, 이번에 건네주는 정보와 학습으로 조정하는 수치를 나눕니다.

예:영업시간이 바뀌었을 때

새로운 영업 시간이 담긴 자료를 검색하여 답변의 근거로 전달합니다. 오래된 자료를 검색하면 RAG에서도 오래된 대답이 될 수 있습니다.

조심하다

자료의 틀림이나 자료에 없는 정보의 생성은 일어날 수 있습니다. 검색 결과와 출력을 모두 평가하여 참조 소스가 실제로 응답을 지원하는지 확인합니다.

AI Inc.에서 생각하면

이것은 현실 AI 서비스의 기본 지식입니다. 게임에서 RAG를 개별적으로 설정할 수 있다는 의미는 아닙니다. 용도에 맞는 모델과 데이터를 선택하는 사고방식으로 연결됩니다.

이 항목에 대한 링크

환각이란? 답을 확인해야 하는 이유는?

하르시네이션은 사실이나 자료를 뒷받침할 수 없는 내용을 그럴듯하게 생성하는 것입니다. 존재하지 않는 정보와 출처가 자연스러운 문장에 섞일 수 있습니다.

왼쪽에 답변을 읽는 연구자, 오른쪽에 응답의 종이와 열린 원본의 책을 나란히 해당 부분을 대조하는 연구자를 그린 일러스트 — 환각과 근거 확인
읽기 쉬운 답변에서도 출처를 열어 확인합니다.

문장의 자연성과 사실의 정확성은 다릅니다.

LLM은 컨텍스트에 맞는 출력을 계산합니다. 자신감 있는 표현이나 상세한 설명만으로는 근거가 있다고 판단할 수 없습니다. 모델이 검색과 계산을 사용했을지도 앱의 작동 방식에 따라 다릅니다.

근거를 실제로 열고 확인

자료의 해당 개소, 수치, 날짜, 인물명 등을 대조합니다. 인용 목적지가 존재하더라도 응답을 지원하지는 않습니다. 모르겠다고 대답할지도 평가에 포함합니다.

예:있을 것 같은 자료명을 만들어 버린다

“이 기능의 출처를 가르쳐 주세요”라고 물었을 때, 실재하지 않는 설명서를 들 수 있습니다. 자료명이 구체적이라도 원본이 있는지 확인합니다.

조심하다

검색, RAG, 추가 학습 등은 오류를 줄이는 데 도움이되지만 정확성을 보장하지는 않습니다. 생성의 편차를 억제해도 잘못된 대답이 고정될 수 있습니다.

AI Inc.에서 생각하면

외부 평가는 무엇을 어디까지 확인했는지를 읽는 자료입니다. 높은 성능과 평가 결과만으로도 모든 용도의 안전성이 보장되는 것은 아닙니다.

이 항목에 대한 링크

벤치마크가 높으면 그대로 제공할 수 있나요?

벤치마크는 정해진 과제로 성능을 비교하기 위한 평가입니다. 고객의 실제 사용에 도움이 되는지 별도로 확인해야 합니다.

왼쪽에 공통의 과제의 결과 용지를 읽는 사람, 오른쪽에 연 폴더와 자료·결과 용지를 대조하는 사람을 그린 비교 일러스트 — 평가: 공통 과제와 실제 용도
일반적인 과제와 업무 조건을 나누어 확인합니다.

실제 작업에 가까운 조건에서 시도

사용하는 언어, 자료, 질문의 길이, 필요한 형식 등을 갖추어 비교합니다. 학습에 사용하지 않는 예나 답변할 수 없는 질문도 포함합니다.

모델뿐만 아니라 전체 서비스 보기

정답률과 근거뿐만 아니라 응답 속도, 비용, 검색 실패, 도구 동작 등을 확인합니다. 평균점만으로는 특정 조건에 약한 모델을 간과할 수 있습니다.

예:요약이 잘 되더라도 숫자가 떨어질 수 있습니다.

읽기 쉬운 요약에서도 청구액이나 기한이 빠져 있으면 용도에 맞지 않습니다. 무엇을 남길 필요가 있는지 먼저 결정하고 그 조건으로 평가합니다.

조심하다

평가 결과는 시험한 조건과 시점에서의 관측입니다. 평가되지 않은 용도까지 보증하는 것은 아닙니다. 모델과 자료를 변경한 후에도 결과를 확인합니다.

AI Inc.에서 생각하면

모델의 평가, 게시, 선행 제공, 고객 전환을 나누어 판단하는 이유로 이어집니다. 시험 결과와 실제 공급 및 판매 결과를 함께 봅시다.

이 항목에 대한 링크

GPU·메모리·응답 속도는, 어떻게 관계하는?

LLM은 많은 수치를 계산하기 때문에 GPU 등의 병렬 계산이 잘 되는 설비를 이용합니다. 처리 능력뿐만 아니라 메모리, 동시 이용, 응답 길이도 제공에 영향을 미칩니다.

왼쪽에 시계와 노트북 앞에서 하나의 의뢰를 기다리는 사람, 오른쪽에 의뢰의 종이를 가진 이용자와 복수의 의뢰를 취급하는 접수를 그린 일러스트 — 추론: 대기 시간 및 처리량
1건에 빠르게 대답하고 많은 의뢰를 다루는 것을 나눕니다.

계산 속도와 넣을 수있는 정보의 양은 다릅니다.

GPU는 계산을 담당하고, 메모리는 모델이나 처리중의 정보를 두는 장소입니다. 작업 책상에 둘 수 있는 넓이와 작업을 진행하는 속도를 나누도록 생각하면 이해하기 쉬워집니다. 이 비유는 역할 설명이며 책상 수에서 실제 성능을 계산하는 것은 아닙니다.

하나의 응답 대기 시간과 전체 처리량을 봅니다.

대기 시간은 요청에 대한 대기 시간이고 처리량은 일정 시간에 처리할 수 있는 양입니다. 첫 문자가 나올 때까지는 긴 답변이 모두 나올 때까지의 시간도 다릅니다. 동시 이용이나 회답의 길이를 갖추어 측정하면, 제공 조건을 비교하기 쉬워집니다.

사용자에게 신속하게 대답하고 많은 요청을 처리하는 것
지표	보기
대기 시간	하나의 요청으로 응답을 받기까지의 대기 시간. 첫 문자까지와 전문의 완성까지를 구별한다.
처리량	일정 시간에 처리할 수 있는 요청 수나 token 수입니다.
메모리	모델이나 처리중의 정보를 둘 수 있는 용량.
비용	필요한 장비 및 운영 비용. 모델이나 제공 조건에 따라 달라진다.

예:혼자 빠르더라도 혼잡 할 때까지 기다린다.

혼자 사용했을 때의 속도만으로는, 100명이 동시에 사용하는 경우의 제공 능력은 모릅니다. 대기 시간과 일정 시간에 처리할 수 있는 양을 모두 측정합니다.

AI Inc.에서 생각하면

GPU의 대수뿐만 아니라 납품·가동 상태와 연구·학습·추론의 배분을 확인합니다. 게임 공급 지표는 현실 토큰 수나 대기 시간으로의 환산값이 아닙니다.

이 항목에 대한 링크

멀티모달 AI란?

문장, 이미지, 음성 등 여러 종류의 정보를 다루는 AI입니다. "모달리티"는 정보의 종류를 말한다. 취급 가능한 입력과 출력은 모델에 따라 다릅니다.

왼쪽에 종이 문장을 읽는 사람, 중앙에 풍경 그림과 카메라를 다루는 사람, 오른쪽에 마이크와 헤드폰으로 음성을 다루는 사람을 그린 그림 — 멀티모달: 글·이미지·음성
다른 종류의 정보를 조합하여 사용합니다.

다른 종류의 정보를 결합

이미지에 무엇이 찍혀 있는지를 문장에서 설명하거나 음성을 듣고 내용에 대답합니다. 이미지를 입력할 수 있는 모델이 이미지를 생성할 수 있는 것은 아닙니다.

입력 조건에서도 결과가 변경됩니다.

작은 문자, 어두운 이미지, 듣기 어려운 음성 등은 잘못 인식될 수 있습니다. 여러 정보를 처리할 수 있더라도 각 정확도를 확인해야 합니다.

예:사진과 함께 작업을 묻습니다.

기계의 사진과 「이 버튼은 무엇?」이라고 하는 문장을 맞추는 사용법입니다. 버튼의 표시를 읽을 수 없는 사진이라면, 모델이 잘못 추측하는 경우도 있습니다.

AI Inc.에서 생각하면

연구 분야나 시장을 선택할 때 고객이 문장만을 다루는지, 이미지나 음성도 필요로 하는지를 생각하는 단서가 됩니다. 해당 기능은 게임 내 설명에서 확인하십시오.

이 항목에 대한 링크

AI 에이전트와 답변하는 AI는 무엇이 다른가?

AI 에이전트는 목표를 향해 절차를 선택하고 검색, 도구 등을 사용하여 작업을 진행하는 메커니즘입니다. 문장을 대답하는 능력과 행동할 수 있는 권한은 다릅니다.

왼쪽에 제안의 종이를 읽는 사용자, 오른쪽에 원본 책, 계산기, 달력, 결과 파일을 사용하여 작업하는 사람을 그린 일러스트 — 답변하는 AI와 AI 에이전트
제안을 읽고 도구로 작업하는 것을 나눕니다.

도구를 사용하여 결과 확인

필요한 정보를 검색, 계산, 기록 업데이트 등의 작업을 결합합니다. LLM을 사용하는 경우에도 실제 작업은 연결된 도구와 시스템을 통해 수행됩니다.

할 수 있는 일의 범위를 결정

읽기만의 조작과 송신·구입·삭제 등의 조작에서는 영향이 다릅니다. 사용할 수 있는 툴, 승인이 필요한 조작, 도중에 멈추는 방법, 실행 기록 등을 설계합니다.

예:약속 제안, 예약 확인

후보 일정을 문장에서 제안하는 경우 예약은 변경되지 않습니다. 예약 시스템에 접속해, 확정하는 권한을 주면, 실제의 행동을 할 수 있게 됩니다.

조심하다

높은 문장 생성의 성능만으로, 맡긴 작업이 안전하게 완료한다고는 판단할 수 없습니다. 도구를 포함한 전체 흐름을 평가합니다.

AI Inc.에서 생각하면

모델 게시 및 실행 권한은 또 다른 판단입니다. 게임에서도 평가 범위, 감독, 사고 조건을 읽고 인정할 행동 범위를 결정합니다.

이 항목에 대한 링크

신경망과 Transformer6

숫자의 계산이 문장이 될 때까지. 6개의 그림으로 순서대로 이해합니다.

MODEL / MECHANISM

숫자의 계산이,
문장이 될 때까지.

우선 작은 계산을 움직여, 다음에 문장을 취급하는 구조에. 여섯 단계로 보이지 않는 모델을 따라갑니다.

계산은 설명을 위한 작은 모델입니다. 이 페이지의 조작으로, 게임이나 세이브의 내용은 바뀌지 않습니다.

신경망은 무엇을 계산할까요?

입력한 수치를, 학습으로 정해진 가중치와 조합해, 층을 통해서 예측으로 바꾸는 구조입니다. 하나의 계산을 이해하면 큰 모델을 볼 수 있습니다.

입력 3개, 숨겨진 레이어 4개, 출력 2개의 노드를 백색, 청색, 청록색의 입체 교재로 늘어놓은 신경망의 일러스트 — 입력에서 예측으로.
왼쪽 3개, 중앙 4개, 오른쪽 2개. 수치를 층마다 조합하는 입체 교재입니다.

입력층: 정보를 수치로 바꾸기

사진이라면 픽셀, 문장이라면 토큰의 표현 등, 모델이 계산할 수 있는 수치를 건네줍니다. 입력을 만드는 방법은 다루는 데이터에 따라 다릅니다.

은닉층: 수치를 다시 조합하기

각 노드는 이전 레이어의 숫자에 가중치를 곱하여 바이어스를 추가합니다. 그 결과에 활성화 함수를 적용하여 다음 레이어로 전달합니다. 숨겨진 레이어는 입력과 출력 사이에 있는 레이어의 이름입니다.

가중치와 편향: 학습으로 조정하는 수치

가중치는 각 입력의 영향을 바꾸며 음수이면 빼는 방향으로 작용합니다. 편향은 합산 결과를 이동시킵니다. 하나의 수치에 특정 지식이나 사실이 하나씩 담겨 있는 것은 아닙니다.

활성화 함수: 단순한 덧셈에서 복잡한 관계로

ReLU는 음수 값을 0으로 설정하고 0 이상의 값은 그대로 통과합니다. 가중치를 곱하고 더 많은 레이어를 겹쳐도 전체는 한 번의 동일한 종류의 계산으로 결합됩니다. 도중에 비선형 변환을 넣으면 복잡한 관계를 다룰 수 있습니다.

출력층: 작업에 맞는 형태로 바꾸기

마지막 표현을 분류 점수나 예측값 등으로 변환합니다. 모든 노드의 숫자가 확률이 되는 것은 아닙니다. 아래의 예도 계산 결과를 나타내는 값입니다.

TRY / 01

하나의 노드를 움직여보십시오.

입력은 1과 2로 고정합니다. 가중치와 편향을 바꾸면 합과 출력이 어떻게 달라질까요?

학습에서 조정되는 수치를 여기에서 손으로 바꿉니다.

가중치 1: 입력 1의 영향0.6

가중치 2: 입력 2의 영향−0.2

바이어스: 합계를 어긋나는 값0.1

01 / 걸고, 더한다
1 × 0.6 ＋ 2 × (−0.2) ＋ 0.1
가중치를 곱해 더한 뒤 편향을 더합니다.
02/ReLU에 통과
max(0, 0.3)
음이라면 0.0 이상이라면 그대로 통과한다.

합계 0.3→출력 0.3

시도: 가중치 1을 -0.6으로 설정하면 합계는 -0.9이고 출력은 0입니다. 이 출력은 확률이나 정답률이 아닙니다.

예:하나의 노드 계산

입력이 1과 2, 가중치가 0.6과 -0.2, 바이어스가 0.1이면 1×0.6+2×(-0.2)+0.1=0.3입니다. ReLU에 통과하면 0.3 그대로. 가중치를 움직여 합계가 음수가 되었을 때의 출력도 확인해 봅시다.

조심하다

뉴런이라는 명칭은 뇌로부터 착상을 얻은 것입니다. 여기서 다루는 것은 수치의 계산으로, 뇌의 작용을 그대로 재현한 것이 아닙니다.

이 그림은 입력층·은닉층·출력층이라는 층의 개념을 배우기 위한 도식입니다. 신경망에는 이미지용 합성곱이나 Transformer 등 다른 구조도 있습니다.

AI Inc.에서 생각하면

데이터·모델 설계·계산 자원이 학습의 결과와 비용에 관계하는 이유로 연결됩니다. 이 도움말의 조정 버튼은 작동 방식을 배우기 위한 것이며 게임 모델이나 저장을 변경하지 않습니다.

이 항목에 대한 링크

「배우기」는 어떤 수치를 바꾸는 것인가?

예측과 정답의 어긋남을 측정하고, 어긋남이 줄어드는 방향으로 가중치 등을 조금씩 조정합니다. 대답을 읽고 모델 수치를 업데이트하는 것을 나누어 생각해 봅시다.

① 순방향 계산: 먼저 예측하기

이제 가중치로 입력에서 출력까지 계산합니다. 이것이 순방향 전파입니다. 정답에 가까운지 여부는 아직이 단계에서는 판단하지 않았습니다.

② 손실 측정: 목표와의 차이 재기

손실 함수로 예측과 학습용 정답을 비교합니다. 아래 예시는 차이의 제곱을 사용합니다. 다음 토큰 예측에는 정답 토큰에 부여한 확률을 사용하는 교차 엔트로피 등 과제에 맞는 지표를 선택합니다.

③ 반대로 가는 : 바꾸는 방향을 구한다

역전파는 각 가중치가 조금 바뀔 때 손실이 어떻게 변하는지 계산합니다. 이 변화율이 기울기입니다. 출력에서 입력 방향으로 계산을 거슬러 여러 층을 조정하는 데 사용합니다.

④ 갱신한다: 한 걸음의 크기도 결정한다

기울기와 학습률을 사용하여 가중치를 업데이트합니다. 학습률은 한 걸음의 크기입니다. 너무 크면 손실이 증가할 수 있습니다. 실제로는 많은 예에서 반복하고 학습에 사용하지 않는 예에서도 성능을 확인합니다.

TRY / 02

가중치를 한 번씩 업데이트하기

입력값은 2, 정답은 1, 학습률은 0.1로 고정합니다. 예측＝2×가중치, 손실＝(예측−1)²인 가중치 하나짜리 모델입니다.

업데이트 0·예측 0.2·손실 0.64

이 예시의 기울기＝4×(2×가중치−1)

새 가중치＝현재 가중치−학습률×기울기

0.1 − 0.1 × (−3.2) ＝ 0.42

첫 업데이트에서는 음의 기울기를 빼므로 가중치가 커집니다.

업데이트하기 전과 업데이트한 후 비교
업데이트 횟수	가중치	예측	손실
0	0.1	0.2	0.64

단일 학습 예에 맞는 교재입니다. 실제 신경망에서는 많은 가중치의 기울기를 역전파로 구하고 학습에 사용하지 않은 데이터에서도 평가합니다.

예:예측 0.2를 정답 1에 접근

입력 2, 가중치 0.1이라면 예측은 0.2. 손실은 (0.2-1)²=0.64입니다. 이 예에서 학습률을 0.1로 설정하면 첫 번째 업데이트 후 가중치는 0.42, 예측은 0.84, 손실은 0.0256입니다. 아래의 조작으로 같은 예의 변화를 한 번씩 추적합니다.

조심하다

계산 예는 하나의 가중치만을 갖는 모델과 하나의 학습 예입니다. 신경망 전체의 역전파를 재현한 것은 아닙니다.

이 간단한 예에서 손실이 떨어지는 것은 큰 모델의 학습 성공이나 알려지지 않은 질문에 대한 정답을 보장하지 않습니다. 학습에 사용한 예에만 강해지는 과적합에도 주의합니다.

AI Inc.에서 생각하면

연구 완료, 모델 본 학습, 완성 후 평가를 나누는 이유로 이어집니다. 게임에서도 학습 전의 예측과 완성 후의 결과를 비교하여 다음 투자를 판단합니다.

이 항목에 대한 링크

문장은 어떻게 수치가 되는가?

문장을 토큰으로 나누고 ID를 사용하여 숫자의 순서로 바꿉니다. 그 수치 표현을, 주위의 정보와 조합해 갑니다.

token과 ID: 처리 단위 정하기

토큰화로 문장을 작은 단위로 나누고 각각에 ID를 대응시킵니다. ID는 식별 번호이며, 크고 작은 단어의 의미의 강도를 나타내는 것은 아닙니다. 일본어 단어나 문자와 반드시 일대일이 되는 것은 아닙니다.

임베딩: ID에서 학습된 수치 배열로

ID를 단서로 임베딩 표에서 벡터를 가져옵니다. 벡터는 여러 수치를 나열한 것입니다. 각 성분에 ‘친절함’이나 ‘똑똑함’처럼 사람이 이해할 수 있는 의미가 정해져 있는 것은 아닙니다.

위치 정보 : 정렬 방법도 계산에 전달

「회사가 모델을 만든다」라고 「모델이 회사를 만든다」에서는 순서가 다릅니다. Transformer는 위치 및 상대 거리 정보도 사용합니다. 그 넣는 방법은 디자인에 따라 다릅니다.

문맥의 표현 : 주변과 함께 변화

첫 번째 삽입을 출발점으로 각 레이어에서 주변 표현과 결합합니다. 같은 토큰에서도 문맥에 따라 도중의 표현이 바뀝니다. ID를 바꾸는 것만으로 문장 해석이 완료되지는 않습니다.

READ / 03

단어의 번호에서 숫자의 순서로

가상의 분할에서 "회사가 모델을"를보십시오. ID를 단서로 포함된 테이블에서 벡터를 검색합니다.

표를 좌우로 스크롤할 수 있습니다.

분할·ID·수치는 모두 설명용
위치	token	ID	3차원 임베딩
1	회사	120	[0.2, −0.4, 0.7]
2	가	8	[−0.1, 0.3, 0.2]
3	모델	305	[0.6, 0.1, −0.2]
4	을	9	[0.1, −0.2, 0.4]

임베딩 가져오기
token의 첫 수치 표현을 준비합니다.
위치 정보도 사용
어순이나 거리를, 설계에 맞는 방법으로 계산에 전한다.
주변 정보를 캡처
각 층을 통과하면 문맥에 따라 표현이 바뀝니다.

ID305가 ID120보다 "의미가 강한"것은 아닙니다. 실제의 분할·차원수·수치는 모델마다 다르고, 벡터의 각 성분에 인간이 읽을 수 있는 의미가 정해져 있다고도 할 수 없습니다.

예:「모델」이라는 말을, 주위로 읽는다

「AI의 모델을 평가한다」와 「건축의 모델을 전시한다」에서는, 주위의 말이 다릅니다. 계산에서는 토큰의 표현에 주위의 정보를 받아들여, 사용되고 있는 문맥을 취급합니다.

조심하다

그림의 분할·ID·3성분의 벡터는 설명용의 가상예입니다. 실제 분할, 차원 수 및 숫자는 모델에 따라 다릅니다.

AI Inc.에서 생각하면

문맥 길이이나 데이터의 용도를 선택할 때, 취급하는 정보의 양과, 그 정보를 사용하는 계산의 부담을 생각하는 도움이 됩니다.

이 항목에 대한 링크

Transformer는 어떤 부분으로 구성될까요?

Attention에서 위치끼리의 정보를 섞어, Feed-Forward로 각 위치의 표현을 변환한다. 이 블록을 겹치는 신경망의 설계입니다.

Transformer 입체 학습 그림. 위에는 입력 카드, 가운데에는 위치 사이의 정보를 섞는 파란 부품과 위치별 표현을 변환하는 흰 부품이 든 두 블록, 아래에는 출력 카드가 있습니다. — 관계를 섞는다. 표현을 바꾼다.
위에서 아래로. 카드가 표현, 두 개의 테두리가 반복하는 블록을 나타냅니다.

Attention: 다른 위치의 정보 반영

어느 위치의 정보를 얼마나 캡처하는지를 계산합니다. 멀리 떨어진 위치도 후보가 됩니다. 문장을 생성하는 구성은 미래의 토큰을 보지 않도록 참조할 수 있는 범위를 제한합니다.

Feed-Forward: 각 위치를 동일한 계산으로 변환

Attention 후 각 위치의 표현에 학습된 변환을 적용합니다. 이 부분은 위치별로 처리되며 동일한 레이어에서 동일한 매개 변수를 사용합니다. 비선형 변환도 포함됩니다.

잔차 연결과 정규화: 층을 쌓는 기반

잔차 연결은 새로 계산된 결과에 원래 표현을 더하는 경로입니다. 정규화는 수치의 척도를 정돈하는 계산입니다. 이들을 조합하여 블록을 겹칩니다. 정규화 장소 등은 설계에 따라 다릅니다.

최종 출력: 다음 token 후보의 점수

문장 생성에서는 마지막 위치의 표현을 어휘 전체의 점수로 변환해, Softmax로 확률의 분포로 합니다. 해당 후보에서 다음 토큰을 선택합니다. Attention의 배분과 출력 후보의 확률은 다른 수치입니다.

READ / 04

문장 생성에 사용하는 Decoder형의 흐름

위에서 아래로 읽습니다. 일러스트의 카드는 「수치의 표현」, 프레임은 「반복하는 처리」에 대응합니다.

입력token → 임베딩·위치 정보
문장을 계산으로 취급할 수 있는 표현으로 한다.
Transformer 블록 반복
01 / 위치끼리Multi-Head Self-Attention
미래의 위치를 숨기고 참조할 수 있는 위치의 정보를 섞는다.
잔차 연결·정규화도 함께 사용
02 / 위치별Feed-Forward（FFN）
같은 층에서는 같은 가중치로 각 위치의 표현을 비선형 변환합니다.
잔차 연결·정규화도 함께 사용
그림의 2 블록은 설명용. 실제 수는 모델에 따라 다릅니다.
출력을 만드는 부분마지막 위치 표현 → 어휘 점수 → Softmax
이어서 올 token 후보의 확률을 계산합니다.
생성다음 token을 골라 문맥에 추가
추가한 문맥을 사용해, 다음의 후보로 진행한다.

잔차 연결은 원래 표현을 더하는 경로이고 정규화는 수치의 척도를 정돈하는 계산입니다. 정규화를 부품 전후 어느 쪽에 둘지 등은 설계에 따라 다릅니다. 이 그림은 원논문의 Encoder–Decoder 전체를 그린 것이 아닙니다.

Transformer의 주요 구조
구성	읽기 범위 및 용도
Encoder	입력 전후를 사용하여 문장의 표현을 만든다. 분류나 검색용 표현 등에 이용.
Decoder	각 위치까지의 정보를 사용하여 연속을 생성합니다. 여기서 설명하는 구성.
Encoder–Decoder	입력을 읽는 쪽과 출력을 생성하는 쪽을 결합합니다. 원논문은 번역에서 이 구성을 다룬다.

예:「그것」이 가리키는 것을, 문맥으로 읽

"회사가 새로운 모델을 공개했다. 그것은 문장을 요약할 수 있다."에서는 "그"를 다룰 때 "모델"의 정보를 캡처하는 것이 단서가 된다. 그 표현을 각 층에서 한층 더 변환해, 다음의 출력에 사용합니다. 구체적인 Attention 계산은 다음 기사에서 살펴 보겠습니다.

조심하다

다이어그램은 Decoder 유형의 생성 모델을 이해하기위한 단순화 된 다이어그램입니다. 원논문의 Encoder–Decoder 전체나 특정 제품의 구성도가 아닙니다.

블록이 2개 있는 것은 설명용입니다. 실제 레이어 수, 너비, 활성화 함수 및 위치 정보 처리는 모델에 따라 다릅니다.

AI Inc.에서 생각하면

모델의 설계, 필요한 계산 자원, 제공시의 부담을 함께 생각하는 배경이 됩니다. 게임의 연구 수준과 성능 값은 현실의 구성이나 측정치 자체가 아닙니다.

이 항목에 대한 링크

Self-Attention의 Q·K·V는 어떤 역할을 할까요?

캡처하고 싶은 정보를 찾는 Q, 일치하기 위한 K, 실제로 캡처할 정보 V를 만들고 관계의 강도에 따라 V를 혼합합니다.

왼쪽에 열린 책과 6장의 종이 조각을 나란히 읽는 사람, 오른쪽에 종이 조각 열의 멀어진 2장을 가리키고 비교하는 사람을 그린 일러스트 — Attention: 문장 속 요소의 관계
떨어진 위치에 있는 요소의 관계도 계산에 포함됩니다.

Q와 K: 대조를 위한 수치 표현 만들기

각 위치의 표현을 학습된 변환으로 Q(Query), K(Key), V(Value)로 바꿉니다. Q와 K의 내적을 계산하여 차원 수에 따라 조정된 점수를 만듭니다. Q는 검색 쿼리에 가까운 은유이지만 문장의 질문문 자체는 아닙니다.

Softmax : 점수를 배분으로 변경

참조할 수 있는 위치의 점수를 Softmax에 통과시켜 합계가 1이 되는 가중치로 바꿉니다. 생성 모델의 예에서는 미래의 위치를 먼저 마스크하고 그 위치에 대한 가중치를 0으로 설정합니다.

V: 가중치를 곱해 정보 섞기

각 V에 Attention의 가중치를 곱하고 더해 줍니다. 하나의 단어를 선택하여 끝나는 처리가 아니라 참조할 수 있는 여러 위치의 정보를 캡처하는 계산입니다.

Multi-Head: 여러 변환을 병렬로 사용

서로 다른 학습된 변환을 가진 헤드에서 각각 관계를 계산하고 결과를 요약합니다. Head 마다 역할을 사람이 결정하고 있는 것은 아니고, 반드시 문법이나 대명사를 전문으로 한다는 의미도 아닙니다. 아래의 예는 1 Head뿐입니다.

TRY / 05

Q · K · V에서 배분 계산

3위치・2성분・1Head의 가공예입니다. 대상 Q를 각 위치의 K와 대조하고 배분으로 V를 혼합합니다. 어휘에서 다음 단어를 선택하는 계산과는 별도입니다.

어떤 위치의 표현을 업데이트?

미래 위치 가리기(생성 모델 예시)

대상 Q = [1, 1]
점수 = Q와 K의 내적 ÷ √2

표를 좌우로 스크롤할 수 있습니다.

점수는 Softmax에 통과하기 전의 값입니다.
위치	K: 대조용	V: 섞는 정보	점수
1「회사」	[1, 0]	[0.4, 0.1]	0.707
2「모델」	[1, 1]	[0.8, 0.6]	1.414
3「그것」	[0, 1]	[0.1, 0.2]	0.707

Softmax 후 배분: 총 100%

1「회사」24.8%
2「모델」50.3%
3「그것」24.8%

위치3「그것의 혼합 결과 [0.527, 0.377]。미래의 위치를 숨기고 있습니다.

결과 = 0.248 × [0.4, 0.1] ＋ 0.503 × [0.8, 0.6] ＋ 0.248 × [0.1, 0.2]

각 V에 배분을 곱하고 성분별로 더합니다. 표시 값이 반올림되어 표시의 합계가 100%에서 벗어날 수 있습니다.

시도해보기: 위치 1을 선택하면 인과 마스크가 있는 경우 위치 1만 100% 사용합니다. 마스크를 제거하면 후의 위치도 후보가 됩니다. 숫자는 실제 모델의 측정값이 아닙니다.

예:"그"를 대상으로 가상의 값으로 계산

아래의 예에서는 3위치의 Q·K·V를 준비하고 대상의 Q와 각 K의 내적을 √2로 나눈 다음 Softmax를 계산합니다. 대상을 이전 위치로 변경하면 생성하는 모델의 예에서는 미래의 위치가 마스킹됩니다. 표시된 배분과 혼합 결과를 비교해 봅시다.

조심하다

분할, Q·K·V, 점수는 설명을 위한 가상의 예입니다. 실제 모델의 Attention을 측정한 것이 아니라 의미 관계가 올바르게 학습된 증거도 아닙니다.

입력에 따라 Attention의 배분은 달라지지만, 그 자체는 학습된 파라미터의 업데이트를 의미하지는 않습니다.

Attention은 계산 방법의 이름입니다. 인간의 의식이나 출력의 정확성을 보증하는 구조가 아닙니다.

AI Inc.에서 생각하면

긴 컨텍스트를 다루는 계산과 추론에서 메모리를 사용하는 이유로 이어집니다. 고객에게 공급을 생각할 때는 모델의 품질과 자원의 부담을 맞추어 봅니다.

이 항목에 대한 링크

LLM은 어떻게 문장의 연속을 만드는가?

여기에서는 자기 회귀형의 문장 생성을 보겠습니다. 건네받은 문맥으로부터 다음의 토큰의 확률을 계산해, 선택한 토큰을 문맥에 더해, 다음을 계산합니다.

아직 없는 계속을 입력에 섞지 않는다.

생성시에는 지시와 지금까지의 출력을 사용합니다. 학습시 정답의 문장을 나란히 처리하는 경우에도 각 위치가 미래의 정답을 보지 않도록 인과 마스크를 사용합니다. 여러 학습 위치를 병렬로 계산할 수 있는 것과 미래의 대답을 볼 수 있는 것은 다릅니다.

확률에서 선택: 매번 최대 후보는 아닙니다

확률이 높은 후보를 선택하는 방법이나 확률에 따라 후보를 추첨하는 방법 등이 있습니다. 선택 방법이나 온도 등의 설정으로 출력은 바뀝니다. 한 번에 대답 전체를 완성한다는 설명만으로는 이 반복이 보이지 않습니다.

선택한 token도 다음 문맥이 됩니다

생성된 토큰을 컨텍스트에 추가하고 다음 후보를 계산합니다. 종료를 나타내는 토큰이나 출력 상한 등에 이를 때까지 계속합니다. 선택을 반복하므로 초기 출력의 차이가 후속 문장에도 영향을 미칩니다.

READ / 06

선택한 계속을 다음 입력으로

분할도 확률도 가상입니다. 여기에서는 보기 쉽게 하기 위해, 높은 확률의 후보를 선택한 예를 나타냅니다.

01
지금의 맥락
AI의
다음 후보
연구 60% · 활용 25% · 기타 15%
선택
연구
다음 문맥으로
AI 연구
02
지금의 맥락
AI 연구
다음 후보
70% · 20% · 기타 10%
선택
을
다음 문맥으로
AI 연구
03
지금의 맥락
AI 연구
다음 후보
진행 55% · 지원 30% · 기타 15%
선택
진행하다
다음 문맥으로
AI 연구 진행

실제로는 확률에 따라 추첨하는 등 선택 방법은 설정에 따라 다릅니다. 다음 토큰의 확률은 내용이 사실일 확률이 아닙니다. 일반 생성은 각 답변에 대해 학습된 가중치를 업데이트하지 않습니다.

예:"AI의"를 하나씩 계속

설명용의 분할이라면, 「AI의」에 「연구」를 더해, 그 「AI의 연구」에 「을」를 더해, 한층 더 다음의 후보를 계산하는 흐름입니다. 그림의 후보와 확률은 가상입니다. 실제 토큰화와 후보는 모델과 컨텍스트에 따라 달라집니다.

조심하다

다음 토큰의 확률은 내용이 사실일 확률이 아닙니다. 자연스러운 문장에서도 오류가 발생하기 때문에 자료나 계산 결과와 대조합니다.

일반적인 문장 생성은 답할 때마다 학습된 가중치를 바꾸지 않습니다. 추가 학습은 별도 과정입니다.

추론 구현에서는 KV 캐시 등에서 기존 계산을 재사용할 수 있습니다. 그림은 정보의 흐름을 나타내며 매번 모든 것을 처음부터 다시 계산한다는 의미는 아닙니다.

AI Inc.에서 생각하면

고객에게 서비스를 제공할 때는 문장을 생성하는 추론에도 계산 자원이 필요합니다. 모델을 완성하는 학습 비용과 계속 사용하기 위한 공급·비용을 구분하세요.

이 항목에 대한 링크

AI 연구의 현재10

2026년 10월 5일 확인. 최근의 학술논문에서 9개의 연구 동향과 그 성과·한계를 읽는다.

확인일 2026.10.05 · 대상: 2026년 5~9월 10개 논문

답변을 만드는 능력에서 긴 일을 마무리하는 능력으로. 계산의 사용법, 근거의 확실성, 평가 및 권한 설계에 이르기까지 최근 논문에서 연구 방향을 읽습니다.

논문을 읽는 방법 해결 방법과 후보의 그림 긴 문장과 기억의 그림 후보 및 검증의 도해 소리의 근거의 그림 세계 모델의 그림 작업 완료의 도해 질문과 오답의 도해 채점의 근거의 그림 권한 차이의 그림 참고문헌 10건 보기

최신 연구 동향을 어떻게 읽어야 합니까?

여기에서는 2026년 5~9월에 공개된 10개 논문에서 9가지 방향을 소개합니다. 추론·에이전트·기억·효율화·음성·세계 모델·신뢰성·평가·권한 설계가 대상입니다.

무엇을 바꾸고 무엇과 비교했는지 읽기

모델, 데이터, 계산 예산 및 평가 조건을 검토합니다. 다른 논문에서 얻은 수치는 조건이 다르면 그대로 순위로 할 수 없습니다. 각 항목에서는 방법과 관측된 결과를 나누어 설명합니다.

공개일과 채택 · 검증

프리프린트는 학술지나 회의의 검토를 거치기 전에도 공개할 수 있는 원고입니다. 회의 채택이 원본에 기재된 논문은 그 기재를 나타냅니다. 채택이나 높은 점수만으로도 모든 용도에서의 유효성이 확정되는 것은 아닙니다.

논문 결과를 잘못 해석하지 않기 위한 확인 사항
보는 곳	확인하기
대상	어떤 모델, 언어, 데이터 및 과제로 시도했습니까?
비교 조건	계산량, 시도 횟수, 장비를 정렬하여 비교했습니까?
지표	한 번의 정답 또는 여러 후보 중 하나가 정답하는 비율
재현성	방법, 코드, 데이터, 논문의 버전을 확인할 수 있는지
한계	검증되지 않은 조건과 추가로 필요한 검증은 무엇입니까?

예:높은 정답률에서도 시도한 횟수가 다른 경우

한 번에 답한 정답률과 여러 후보를 만들어 적어도 하나가 정확했던 비율은 같은 지표가 아닙니다. 과제·모델·후보수·계산예산을 확인하고 나서 결과를 읽습니다. 높은 수치만으로는 한 번의 답변이 더 확실해졌다고 판단하지 않습니다.

조심하다

이 페이지는 선택한 논문을 바탕으로 한 해설입니다. 분야 전체의 합의나 현실 제품의 최신 랭킹을 나타내는 것은 아닙니다. 연구 결과와 게임 구현도 구별하여 읽습니다.

이 항목에 대한 링크

추론 : 계산을 늘릴뿐만 아니라 사고 방식을 나눕니다.

대답시 많은 후보를 만드는 연구에서는 동일한 실패를 반복하는 것이 과제입니다. PTTS는 먼저 다른 해결책을 수립하고 각 후보를 그 정책을 따라 만듭니다.

왼쪽에 색이 다른 3개의 카드 넣기를 앞으로 한 사람, 중앙에 카드 넣기나 파일을 앞으로 해 응답을 쓰는 사람, 오른쪽에 문제 용지와 복수의 응답 용지를 비교하는 사람을 그린 일러스트 — 후보를 늘리기 전에 해결 방법의 정책을 분리
여러 정책을 먼저 준비하고 각각에 따라 답변 후보를 만듭니다.

학습 후 모델에 계산을 사용하는 방법

추론시 추가 계산을 사용하는 방법을 테스트 시간 스케일링이라고 합니다. PTTS에서는 정책을 만드는 쪽과 실행하는 쪽을 나누고, 정책을 만드는 쪽을 강화 학습으로 조정하는 방법도 검토하고 있습니다.

논문이 보고한 것

Qwen3의 1.7B·4B 모델을 이용한 5개의 수학 평가로, 독립적인 반복 생성보다 pass@64가 개선되었다고 보고하고 있습니다. 이는 64개 후보 중 적어도 하나가 정답인지 여부를 보여주는 지표입니다.[R01]

결과 범위와 남은 과제

여러 후보들 중에서 정답을 확실히 선택할 수 있고 한 번의 답변으로 동일한 개선을 얻을 수 있다는 것은 또 다른 과제입니다. 수학 이외의 일이나 대기 시간·비용도 용도에 맞게 확인할 필요가 있습니다.

예:네 가지 후보 중 하나만 정답이라면

한 가지 문제로 네 개의 답변 후보를 만들고 하나만 정답했다고 가정합니다. 이 문제는 pass@4에서 성공으로 간주됩니다. 여러 문제에 대해이 성공률을 살펴 보겠습니다. "4회에 1회 정답한다"는 지표도, 정답의 후보를 확실히 선택할 수 있다는 의미도 아닙니다. 4 후보의 예는 설명용으로, 논문의 성적을 재현한 것은 아닙니다.

AI Inc.에서 생각하면

연구 성능뿐만 아니라 고객에게 제공하는 데 필요한 추론 자원도 볼 수 있다는 판단으로 이어집니다. PTTS를 게임에서 개별적으로 설정할 수 있다는 의미는 아닙니다.

이 항목에 대한 링크

에이전트 : 중간 작업에서 완성 된 아티팩트 평가

검색이나 툴 조작을 할 수 있어도, 긴 작업을 끝까지 마무리 되는 것은 아니다. KNOWS는 정보를 수집하고 정리하며 문서와 같은 아티팩트를 만드는 웹 작업을 평가합니다.

왼쪽에 자료를 모으는 사람, 중앙에 자료를 정리하는 사람, 오른쪽에 의뢰의 용지와 완성된 보고서를 비교하는 2명을 그린 일러스트 — 도중의 조작으로부터, 사용할 수 있는 아티팩트에
정보를 수집한 후 정리 및 완제품 확인이 계속됩니다.

모델뿐만 아니라 도구를 전달하는 방법도 중요합니다.

같은 모델에서도 조작할 수 있는 범위나 툴의 구조로 결과는 바뀝니다. 도중의 조작이 성공했는지와 완성품을 이용할 수 있는지를 나누어 측정하는 방향입니다.

논문이 보고한 것

110가지의 복잡한 과제를 준비했으며, 시도한 에이전트의 최상의 성공률도 3% 미만이라고 보고했습니다. 부분적으로는 진행해도, 시각적인 조작의 실패로 아티팩트를 사용할 수 없게 되는 예가 있습니다.[R02]

결과 범위와 남은 과제

특정 과제와 실험시 시스템의 결과이며 모든 에이전트의 성공률이 아닙니다. 실제 웹사이트를 사용하기 때문에 화면이나 정보의 변화에도 평가가 영향을 받습니다.

예:검색할 수 있지만 비교 자료가 미완성인 경우

「3개의 후보를 조사해, 출전 첨부의 비교 자료를 만든다」라고 하는 의뢰를 생각합니다. 세 가지 정보를 얻을 수 있지만 비교할 조건이 부족하거나 문자가 겹쳐서 읽을 수 없으면 요청을 완료했다고 할 수 없습니다. 정보의 취득과, 사용할 수 있는 완성품의 양쪽 모두를 확인합니다. 이것은 설명용의 예이며, 논문의 개별 과제를 재현한 것은 아닙니다.

AI Inc.에서 생각하면

모델의 성능과 고객이 실제로 받는 제공 결과를 함께 확인하는 이유로 이어집니다. 공개 후의 공급이나 선행 제공의 결과도 봅시다.

이 항목에 대한 링크

긴 컨텍스트 : 전체 텍스트를 유지하는 방법에서 기억을 사용하는 디자인으로

긴 문장을 다루기 위해서는, 정보를 참조하는 능력과 계산·메모리의 부담을 양립할 필요가 있습니다. ARMT 연구는 반복적으로 업데이트하는 연상 기억을 모델에 통합합니다.

왼쪽에 긴 자료의 일부를 읽는 사람, 중앙에 작은 카드 넣기를 업데이트하는 사람, 오른쪽에 그 카드 넣기와 다음 자료를 사용하는 사람을 그린 일러스트 — 긴 문장을 구분과 기억으로 읽는다.
이전의 구분으로 얻은 정보를, 다음의 단락의 처리에 계승합니다.

구분하여 읽고 내부 기억을 인수

ARMT는 입력을 구분하여 순서대로 처리하고 각 구분에서 연상 메모리를 업데이트합니다. 다음 구분에서는 해당 기억도 참조합니다. 기억은 모델 내부의 수치로 표현되어 원문을 통째로 보존하는 것과, 문장으로 요약을 남기는 것과는 다릅니다.

길이의 상한뿐만 아니라 실제로 사용할 수 있습니까?

이 연구에서는 긴 입력에 대응하기 위한 추가 학습과 기억을 통합하는 레이어의 선택을 검토하고 있습니다. 정보를 넣을 수 있는 길이와 멀리 있는 정보를 사용하여 올바르게 대답하는 능력은 구별합니다.

논문이 보고한 것

분야별의 장문 데이터를 작성해, 원래의 모델의 문맥 상한을 넘은 입력이나, 학습시보다 긴 입력으로 평가하고 있습니다. 원래 길이의 범위에서도 성능을 유지하면서 계산량을 줄이는 결과를 보고하고 있습니다.[R03]

결과 범위와 남은 과제

실험 대상은 최대 1B 파라미터의 비교적 작은 모델이다. 더 큰 모델이나 다른 영역에서 동일한 효과를 얻을 수 있는지 여부는이 결과만으로 판단 할 수 없습니다.

예:긴 보고서의 전반과 후반을 연결

전반에 계획의 조건, 후반에 실적이 쓰여진 보고서를 생각합니다. 후반부를 읽을 때, 이전의 구분으로부터 계승한 정보를 사용할 수 있으면, 양쪽 모두를 근거로 해 처리할 수 있습니다. 그러나 모든 조건을 정확하게 인계할지 여부는 평가가 필요합니다. 이것은 사용법을 생각하는 예이며, 이 보고서에서의 성공을 논문이 보증하는 것은 아닙니다.

AI Inc.에서 생각하면

성능만을 올리는 연구와 같은 일을 적은 자원으로 실시하는 연구의 차이를 생각하는 단서가 됩니다. 게임의 모델 규모나 자원의 수치를, 논문의 값으로 환산하는 것은 아닙니다.

이 항목에 대한 링크

효율성: 후보를 먼저 만들고 함께 검증

투기적 디코딩은 가벼운 계산으로 이전 토큰 후보를 만들고 대상 모델에서 검증하는 방법입니다. 최근의 연구에서는, 의뢰 마다의 처리 예정과, 후보를 만드는 모델의 학습을 개량하고 있습니다.

왼쪽에 후보의 종이 조각을 늘어놓는 사람, 중앙에 종이 조각을 비교해 나누는 사람, 오른쪽에 채용한 종이 조각을 문장의 열에 더하는 사람을 그린 일러스트 — 후보를 먼저 만들어 채용하는 범위를 확인
후보의 작성과 검증을 조합해, 응답의 계속을 생성합니다.

검증은 사실 확인과 다르다.

대상 모델의 생성에 맞는지 확인하고 받아들여지는 선두 부분을 채용하는 처리입니다. ASPIRE는 동일한 모델이 일부 컨텍스트에서 후보를 만들고 전체 컨텍스트를 사용하여 검증합니다. 가벼운 다른 모델을 사용하는 방식도 있습니다. 검증을 통한 문장에서도, 사실의 뒷받침은 따로 확인합니다.

처리를 정렬하는 방법과 후보의 품질을 향상

ASPIRE는 여러 요청이 각 시점에서 후보 작성 및 검증을 수행할 수 있도록 합니다. 또 다른 연구는 기존의 학습 데이터로 낭비되었던 학습 신호를 회복하고 검증을 통과하는 후보를 쉽게 만들 수 있습니다.

논문이 보고한 것

ASPIRE는 3가지 모델과 5가지 평가에서 정상적인 순차적 생성에 대한 디코딩 처리량 개선을 보고합니다. 후보 모델의 학습 연구는 또한 검증에서 허용되는 후보 길이의 개선을 보고한다.[R04][R05]

결과 범위와 남은 과제

처리량 개선율은 그대로 1건의 응답 대기 시간이나 이용요금 개선율이 될 수 없습니다. 모델, 장비, 동시 처리 수, 후보 수리율, 생성 방식 등의 조건을 읽어야 합니다.

예:4가지 후보 중 처음 2개를 채용하는 경우

만약 4개의 토큰 후보를 만들고 검증에서 처음 2개가 받아들여졌다고 합니다. 그 2개와 검증측에서 정해진 다음의 토큰을 계속에 더해, 나머지의 후보는 취하합니다. 모든 후보자를 다시 만들 수 있습니다. 4개·2개는 설명용의 수로, 논문의 고정 설정이나 성능을 나타내지 않습니다.

AI Inc.에서 생각하면

공급 부족에 대한 대응은 설비를 늘리고 효율을 개선하는 것을 모두 고려할 수 있습니다. 논문의 고속화율이 게임의 공급에 그대로 반영되는 것은 아닙니다.

이 항목에 대한 링크

멀티모달: 추론에 앞서 소리의 근거를 활용하는가

음성을 받는 AI에서도 실제 소리의 정보를 사용하지 않고 문장측의 단서로 대답하는 경우가 있습니다. PG-TTRL은 소리의 근거를 사용하는 것을 중시한 추론시의 강화 학습을 검토합니다.

왼쪽에 책상에서 미사용 헤드폰 옆에 질문 용지를 읽는 사람, 오른쪽에 헤드폰을 착용하고 같은 질문 용지를 읽는 사람을 그린 비교 일러스트 — 질문을 읽고 소리를 근거로
같은 질문이라도 실제로 들린 소리에 따라 대답이 바뀝니다.

입력에 대응하는 것과 입력을 근거로 하는 것

이 연구는 모델이 소리에 얼마나 의존적으로 추론하는지를 분석하고 그 정보를 학습 평가에 통합합니다. 문장을 오랫동안 생각하는 것만으로는, 청취의 약점이 해결되는 것은 아니다.

논문이 보고한 것

2개의 음성 언어 모델과 MMAR·MMAU의 2개의 음성 추론 벤치마크로 평가해, 토대의 모델이나 통상의 추론시 강화 학습에 대한 개선을 보고하고 있습니다.[R06]

결과 범위와 남은 과제

이것은 실제로 모델을 업데이트하는 연구 기술입니다. 일반 채팅이 자동으로 추가 학습한다는 설명은 아닙니다. 모든 소리나 언어, 화상·동영상에의 효과를 나타내는 것도 아닙니다.

예:같은 질문으로 다른 소리를 듣고

"무슨 소리가 들리나요?"라고 물어보고 비와 박수 소리를 각각 전달하는 장면을 생각해보십시오. 질문의 문장은 동일하지만, 대답은 실제 소리의 차이가 필요합니다. 이 예는 설명용이며 논문의 개별 과제가 아닙니다. 논문에서는 음성 정보에 대한 내부 참조를 제한하는 조건과 통상의 조건을 비교하여 소리가 응답에 미치는 영향을 조사하고 있습니다.

AI Inc.에서 생각하면

시장의 이름만으로 용도를 판단하지 않고, 고객이 필요로 하는 입력과 평가 조건을 생각하는 단서가 됩니다. 연구에서 다루는 학습 방식과 게임의 조작을 구별하십시오.

이 항목에 대한 링크

세계 모델 : 다음 단계의 예측에서 긴 전개 안정성에

세계 모델은 환경의 상태와 행동의 결과를 예측하는 모델입니다. 다음 단계를 정확하게 예측할 수 있더라도 예측을 오랫동안 반복하면 현실과 멀어질 수 있습니다.

왼쪽에 판 위의 모형차를 관찰하는 사람, 중앙에 차의 방향이 다른 2장의 판을 늘어놓는 사람, 오른쪽에 3장의 판의 차를 비교하는 사람을 그린 일러스트 — 한 걸음 앞을 예측하고 그 앞도 반복한다.
예측한 상태를 다음 입력으로 사용해 긴 전개를 만듭니다.

예측을 반복했을 때의 성격을 측정

이 연구는 모델 내부의 상태가 일정한 분포를 유지하도록 설계하고 긴 배치의 안정성을 조사합니다. 짧은 예측의 정확성, 긴 전개 분포, 계획의 유효성을 나누어 평가하는 사고 방식입니다.

논문이 보고한 것

12개의 제어 과제로 긴 예측의 반복에서도 평가한 분포를 유지하는 결과를 보고하고 있습니다. 반면에 짧은 범위의 예측 정확도는 비교된 다른 모델이 우수한 결과를 보여줍니다.[R07]

결과 범위와 남은 과제

이론상의 조건이나 학습한 환경·행동의 범위에 의존합니다. 분포가 안정되는 것만으로 현실의 세계를 정확하게 재현하거나 좋은 행동 계획을 만들 수 있다고는 말할 수 없습니다.

예:모형차의 다음 상태와 긴 전개

지금의 위치나 방향과 움직이는 방법으로부터, 모형차의 다음의 상태를 예측합니다. 그 예측을 또 입력으로 하면, 실물을 매회 움직이지 않고 앞의 전개를 만들 수 있습니다. 다만, 한 걸음 앞이 가까운 것만으로는, 길게 반복한 후의 상태의 편향이나 퍼짐까지 유지한다고는 말할 수 없습니다. 긴 예측은 궤적이 다르더라도 분포를 유지할 수 있으며 위치 일치만으로 판단하지 않습니다. 모형차는 설명용으로, 논문의 실험 과제를 재현하고 있지 않습니다.

AI Inc.에서 생각하면

단기 예측과 오랫동안 경영했을 때의 실적을 나누어 보는 사고방식으로 연결됩니다. AI Inc.의 도시나 경영 시뮬레이션을 이 세계 모델로 움직이고 있다는 의미는 아닙니다.

이 항목에 대한 링크

신뢰성: 알지 못할 뿐만 아니라 알고 있어도 잘못된 이유를 알아보기

오답은 필요한 지식이 없는 경우에만 일어나지 않습니다. 이 연구는 질문의 말과 학습에서 얻은 연결이 충돌하고 잘못된 대답이 선택되는 메커니즘을 조사합니다.

왼쪽에 파란색 종이 조각을 포함하는 질문 용지를 읽는 사람, 중앙에 질문 용지에서 파란색 종이 조각을 제거하는 사람, 오른쪽에 두 개의 답변 용지를 비교하는 사람을 그린 일러스트 — 질문의 일부를 제거하고 답변의 변화를 비교
지식이 있어도, 질문의 말과 학습으로 얻은 연결이 경합하는 경우가 있습니다.

질문의 일부를 변경하고 답변의 변화를 봅니다.

영향이 강한 키워드를 제거하여 출력의 변화를 관찰합니다. 지식의 부족, 잘못된 지식, 문맥에 의한 방해, 불안정한 추론을 나누어 조사하는 방향입니다.

논문이 보고한 것

여러 모델과 과제에서 키워드 변경을 오답 감지의 단서로 만들 수 있는 결과를 보고합니다. 그러나 다른 검출 신호와의 조합이 항상 개선되는 것은 아님을 나타냅니다.[R08]

결과 범위와 남은 과제

주요 방법은 토큰 확률 등을 이용하여 오픈 웨이트 모델에 적용하기 쉬운 설계입니다. 내부 정보를 볼 수 없는 서비스로 동등의 검출을 할 수 있을까, 모든 오답의 구조를 설명할 수 있을지는 미확인입니다.

예:장소 정보와 인물을 구분하는 조건

그림의 문장 예에서는, 두 사람에게 공통되는 「도쿄」를 제외해도, 피아니스트를 묻는 조건은 남습니다. 한편, 「피아니스트」를 제외하고 「도쿄에 사는 것은 누구?」로 하면, 두 사람 모두 해당해, 질문의 의미가 바뀝니다. 어떤 정보를 변경했는지와 결과의 변화를 함께 읽어야합니다. 이 예는 논문의 과제나 모델의 대답을 실측한 것은 아닙니다.

AI Inc.에서 생각하면

평가 범위를 구체적으로 읽는 이유로 이어집니다. 하나의 오답 검출의 성적만을 모델 전체의 안전성의 보증으로서 취급하지 않도록 합시다.

이 항목에 대한 링크

평가 : 점수뿐만 아니라 채점 메커니즘도 검증

에이전트가 작업 환경을 변경할 수 있는 평가는 문제를 해결하지 않고 점수에 영향을 줄 수 있습니다. BenchShield는 평가 환경과 실행 기록에서 보상 무결성을 확인합니다.

왼쪽에 결과 용지만 읽는 사람, 오른쪽에 결과 용지와 열린 아티팩트 폴더, 채점 자료, 조작 기록을 비교하는 사람을 그린 비교 일러스트 — 평가 결과와 채점까지의 근거를 맞추어 본다
몇 점이었는지에 더하여 어떤 아티팩트와 입력에서 평가되었는지 확인합니다.

고득점이 된 이유를 쫓는다

성과물, 채점에 사용된 정보, 채점까지의 흐름을 조사합니다. 과제를 정확하게 달성하는 것과 평가의 허점을 사용하는 보상 해킹을 구별하는 연구입니다.

논문이 보고한 것

3개의 에이전트 평가 기반을 대상으로 정적 점검과 런타임 기록을 조합하여 검증하고 있습니다. 대화 기록만 보는 방법과 기초측의 증거를 사용하는 방법도 비교하고 있습니다.[R09]

결과 범위와 남은 과제

평가 환경에 계측을 통합할 필요가 있어, 어느 환경에서도 그대로 사용할 수 있는 방법이 아닙니다. 채점까지의 흐름이 다른 작업이나 자유로운 탐색에는 설계의 확장이 필요합니다.

예:집계표가 미완성이지만 높은 평가가 붙으면

"3건의 값을 집계하는 테이블을 만든다"라는 의뢰로, 필요한 행이 부족한 테이블에 높은 평가가 붙었다고 합니다. 표뿐만 아니라 채점에 어떤 데이터가 사용되고 도중에 무엇이 변경되었는지 확인합니다. 아티팩트 부족, 채점 불량, 평가에 사용되는 정보의 변경은 증거를 보고 나누어야 합니다. 이것은 설명용의 예이며, 논문의 개별 과제나 실제의 부정을 나타내는 것은 아닙니다.

AI Inc.에서 생각하면

높은 평가 값이 어떤 조건에서 얻어 졌는지 확인하는 사고 방식으로 이어집니다. 공개·권한의 판단에서는 평가의 범위와 필요한 감독의 조건을 맞추어 읽습니다.

이 항목에 대한 링크

권한 설계 : 작업의 성공과 필요 이상으로 조작하지 않는 것을 분리

편리한 도구를 선택해도 그 도구가 의뢰에 필요한 범위를 초과하는 경우가 있습니다. FORTIS는 기술과 도구를 선택하여 최소한의 권한을 보호할 수 있는지 평가합니다.

왼쪽에 하나의 자료를 읽는 사람, 오른쪽에 같은 자료와 복수의 파일·미사용의 사무 도구를 앞으로 한 사람을 그린 비교 일러스트 — 요청에 필요한 범위와 너무 넓은 권한
같은 의뢰를 충족시켜도, 도구가 취급할 수 있는 범위는 다릅니다.

일상적인 요청에서도 과도한 권한을 선택합니까?

공격적인 지시뿐만 아니라 애매한 의뢰나 편리함을 강조한 설명에서도 선택이 바뀌는지 조사합니다. 모델의 성공률과는 별도로 필요한 작업 범위에 맞는지 측정합니다.

논문이 보고한 것

메일·통판·파일 조작의 3 분야에서 필요보다 넓은 권한을 가지는 스킬이나 툴이 선택되는 문제를 보고하고 있습니다. 작업을 완료할 수 있는지와는 다른 평가축을 나타냅니다.[R10]

결과 범위와 남은 과제

인공적으로 구성한 스킬 계층에서 선택을 평가하는 연구입니다. 실제 외부 서비스에서 도구를 실행한 결과나 자연스러운 사용자의 이력에 대한 검증은 포함되지 않습니다.

예:하나의 파일을 요약하려면 무엇이 필요합니까?

대상 파일을 읽는 도구와 폴더 전체를 편집·삭제할 수 있는 도구가 있다고 합니다. 둘 다 해당 파일을 읽을 수 있다면 작업을 마칠 수 있는지에 따라 적절한 권한을 선택할 수 있는지 평가할 수 없습니다. 요청에 필요한 대상과 작업 범위를 별도로 확인합니다. 실제 서비스의 설정 화면이나, 논문의 개별 과제를 나타내는 예가 아닙니다.

AI Inc.에서 생각하면

공개된 모델에도 별도 어디까지 행동을 인정하는가 하는 판단이 있습니다. 실행 권한과 감독을 모델 성능과 분리하여 확인하십시오.

이 항목에 대한 링크

참고문헌10건

원본에 직접 링크하고 있습니다. 날짜는 arXiv의 최초 공개일·참조판의 날짜(UTC)입니다.

[R01]
Planned Test-Time Scaling with Coordinated Reasoning Paths
Xueqing Wu, Langxing Bai, Hritik Bansal, Po-Nien Kung, Shuo Li, Hao Liu, Nanyun Peng, Kai-Wei Chang
첫 공개 2026-09-23 · 참조 버전 v1（2026-09-23）
arXiv:2609.27374 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R02]
The Hard Part Comes After Search: Benchmarking Web Agents on Synthesizing, Organizing, and Displaying Knowledge
Alexander Gill, Md Farhan Ishmam, Xuyen Nguyen, Neha Bhat, Parker Henry DeYoung, Fateme Hashemi Chaleshtori, Nathan Stringham, Kenneth Marino, Ana Marasović
첫 공개 2026-09-24 · 참조 버전 v1（2026-09-24）
arXiv:2609.30604 · Findings of EMNLP 2026 채택 (저자 기재)
논문 페이지 ↗PDF ↗
[R03]
Extending LLM Context via Associative Recurrent Memory
Gleb Kuzmin, Ivan Rodkin, Aydar Bulatov, Yuri Kuratov, Lyudmila Rvanova, Mikhail Katkov, Ilia Sochenkov, Misha Tsodyks, Timothy Baldwin, Mikhail Burtsev, Artem Shelmanov
첫 공개 2026-07-13 · 참조 버전 v1（2026-07-13）
arXiv:2607.11614 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R04]
ASPIRE: Asynchronous Batched Self-Speculative Decoding for Long-Context LLM Inference
Amir Ziashahabi, Hossein Entezari Zarch, Lei Gao, Murali Annavaram, Salman Avestimehr
첫 공개 2026-09-16 · 참조 버전 v1（2026-09-16）
arXiv:2609.17943 · COLM 2026 채택(저자 기재)
논문 페이지 ↗PDF ↗
[R05]
Recovering Off-Policy Supervision for Speculative Decoding
Jungseob Lee, Chanjun Park, Sugyeong Eo, Hyeonseok Moon
첫 공개 2026-09-30 · 참조 버전 v1（2026-09-30）
arXiv:2609.38795 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R06]
Listen Then Reason: Perception-Grounded Test-Time Reinforcement Learning for Large Audio-Language Models
Jiaheng Dong, Xiaofeng Yu, Jean Honorio, Abhirup Ghosh, Hong Jia, Ting Dang
첫 공개 2026-09-20 · 참조 버전 v1（2026-09-20）
arXiv:2609.23589 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R07]
World Models with Predictable Long-Horizon Marginals
Yuhao Du, Shunian Chen
첫 공개 2026-09-26 · 참조 버전 v1（2026-09-26）
arXiv:2609.32657 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R08]
When the Wrong Key Wins: Understanding and Detecting Hallucinations in LLMs
Xuhan Tong, Haoyue Bai, Dawei Zhou, Naichen Shi, Jiawei Zhang
첫 공개 2026-09-14 · 참조 버전 v3（2026-09-29）
arXiv:2609.15106 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R09]
BenchShield: Formal Model-Backed Instrumentation for Reward Integrity in LLM-Agent Evaluation Infrastructure
Shenghan Zheng, Zonglin Di, Yimin Liu, Kyoung Whan Choe, Jiankai Sun, Heguang Lin, Penghao Jiang, Yifeng He, Xiao Cheng, Jicheng Wang, Wenbo Chen, Alex Yates, Yinzhe Zhao, Bingran You, Yuan Gao, Ayush Munot, Shubham Gaur, Zhe Ye, Hao Wang, Xiangyi Li, Dawn Song, Christophe Hauser
첫 공개 2026-09-10 · 참조 버전 v1（2026-09-10）
arXiv:2609.11028 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗
[R10]
FORTIS: Benchmarking Over-Privilege in Agent Skills
Shawn Li, Chenxiao Yu, Han Wang, Wei Yang, Ryan Rossi, Franck Dernoncourt, Xiyang Hu, Philip Yu, Chaowei Xiao, Huan Zhang, Yue Zhao
첫 공개 2026-05-09 · 참조 버전 v3（2026-06-14）
arXiv:2605.09163 · arXiv 사전 인쇄
논문 페이지 ↗PDF ↗

참고 문헌 10건을 BibTeX로 저장

용어집35

AI의 기본 용어와 논문을 읽는 단어를 짧게 해설.

신경망: 입력 수치를 학습된 가중치와 변환으로 조합해 예측 등의 결과를 만드는 모델 구조입니다.
은닉층: 입력과 출력 사이의 층으로, 앞 층의 표현을 변환해 다음 층으로 전달합니다.
가중치·편향: 학습으로 조정하는 수치입니다. 가중치는 입력의 영향력을, 편향은 합산 결과의 기준을 바꿉니다.
활성화 함수: 노드의 계산 결과를 변환하는 함수. ReLU와 같은 비선형 변환은 복잡한 관계를 다루는 데 사용됩니다.
손실: 예측과 학습의 목표의 어긋남을 목적에 맞는 방법으로 측정한 값. 미지의 예에서의 성능과는 구별합니다.
역전파: 출력에서 거꾸로 계산을 따라가며 각 매개변수가 손실에 미치는 기울기를 구하는 방법입니다.
학습률: 매개변수를 한 번에 바꾸는 크기입니다. 커진다고 더 빨리 좋아지는 것은 아닙니다.
Self-Attention: 같은 시퀀스의 위치 간 관계를 계산하고 그 가중치로 Value 정보를 섞는 구조입니다.
인과 마스크: 문장 생성에서 각 위치가 미래 token을 참조하지 못하도록 하는 제한입니다.
테스트 시 스케일링: 학습 후의 응답시에, 시행 횟수나 생각하는 순서 등에 계산을 배분해 성능을 높이는 방법. 비용과 대기 시간도 비교합니다.
투기적 디코딩: 이전 토큰 후보를 가벼운 계산으로 만들어 대상 모델에서 검증하는 생성 방법. 모델·설비·후보의 수리율 등으로 효과가 바뀝니다.
KV 캐시: Attention의 계산에 사용하는 정보를 보관 유지해, 같은 계산의 반복을 줄이는 구조. 긴 맥락에서 메모리 부담과 관련이 있습니다.
세계 모델: 환경의 상태와 행동의 결과를 예측하는 모델. 다음 단계의 정확성과 긴 예측과 계획의 효과를 구별합니다.
보상 해킹: 본래의 목적을 달성하지 않고, 채점이나 보수의 구조의 빠짐길을 이용해 고득점을 얻는 것.
프리프린트: 학술지·회의에서의 사독전에도 공개할 수 있는 논문 원고. 공개된 것과 사독·채택된 것은 구별합니다.
AI: 인공 지능. 인식·예측·판단 등을 컴퓨터로 실시하는 기술의 넓은 호칭. 기계 학습 및 생성 AI도 포함됩니다.
기계 학습(ML): 데이터로부터 규칙성을 배우고 새로운 입력의 예측·분류 및 생성에 사용하는 방법.
심층 학습: 여러 층의 신경망을 사용하는 기계 학습 방법으로, 딥러닝이라고도 합니다.
생성 AI: 배운 규칙성을 바탕으로 문장·이미지·음성 등의 내용을 생성하는 AI.
LLM: 대규모 언어 모델. 대량의 문장 등으로부터 학습해, 문장의 생성, 요약, 번역 등에 사용하는 모델.
Transformer: Attention이라는 계산을 이용하여 정보간의 관계를 다루는 신경망의 설계. 많은 LLM에서 사용됩니다.
매개변수: 학습으로 조정할 모델 내부의 숫자입니다. 수가 많은 것만으로 용도에 맞는지는 판단할 수 없습니다.
token: 모델이 문장 등을 다루는 작은 단위. 문자수나 단어수와 일치하지 않고, 나누는 방법은 모델이나 언어로 바뀝니다.
컨텍스트 창: 한 번의 처리로 참조할 수 있는 정보의 길이의 상한. 일반적으로 토큰 수로 표시되며 상한 처리는 모델마다 다릅니다.
사전 학습: 폭넓은 데이터로부터 모델의 토대가 되는 규칙성을 배우는 공정.
파인 튜닝: 학습된 모델을 추가 데이터로 조정합니다. 파라미터를 갱신하는 점에서, 지시를 작성하는 조작이나 RAG와는 다릅니다.
프롬프트: 모델에 전달하는 지침과 정보. 일반적으로 응답의 조건을 변경하는 것으로 모델 자체의 추가 학습이 아닙니다.
RAG: 검색 확장 생성. 필요한 자료를 검색하고 찾은 내용을 모델에 전달하여 답변을 생성하는 방법.
임베딩(Embedding): 문장 등의 특징을 수치의 배열로 나타내는 방법. 내용의 근접을 검색 등에 이용할 수 있습니다.
환각: 사실이나 자료에 뒷받침할 수 없는 내용을, 그럴듯하게 생성하는 것. 출처와 숫자의 조합이 필요합니다.
벤치마크: 정해진 과제로 성능을 비교하기 위한 평가. 고객의 실제 용도에 대한 평가도 필요합니다.
멀티모달: 문장·이미지·음성 등, 복수 종류의 정보를 취급하는 것. 해당 입출력은 모델에 따라 다릅니다.
AI 에이전트: 목표를 향해 순서를 선택해, 검색이나 툴등으로 작업을 진행시키는 구조. 사용할 수 있는 도구와 실행 권한을 결정합니다.
대기 시간: 하나의 요청으로 응답을 받기까지의 대기 시간. 첫 문자까지와 전체 답변의 완성까지를 구별하여 측정할 수도 있습니다.
처리량: 일정 시간에 처리할 수 있는 요청 수나 token 수로, 단일 요청의 대기 시간과는 다릅니다.

연구 결과는 대상 모델·과제·실험 조건과 함께 읽습니다. 각 항목의 참고 자료와 결과의 범위 · 남은 과제도 확인하십시오.

도움말 맨 위로

우선 3가지 단어를 구별

단어

의미

예

지적 작업을 수행하는 전체 기술. 정해진 룰로 움직이는 구조도 포함한다.

게임 상대, 이미지 인식

기계 학습(ML)

예제 데이터를 사용하여 예측 및 분류 규칙성을 배웁니다.

정크 메일 분류, 판매 예측

생성 AI

배운 규칙성을 사용하여 새로운 내용을 생성합니다.

문장 초안, 이미지 및 음성 생성

모델을 키우는 공정과 사용하는 공정

확인하기

학습

추론

목적

예시를 통해 모델 매개변수 조정

새 입력에 대한 출력 계산

입력 예

학습용 문장, 질문 및 답변의 예

이용자의 질문, 참조하는 자료

내부 수치

학습으로 업데이트

일반 추론으로 업데이트하지 않음

자원의 사용도

모델을 만들고 개량하기 위한 계산

고객 요청을 처리하기 위한 계산

사용자에게 신속하게 대답하고 많은 요청을 처리하는 것

지표

보기

대기 시간

하나의 요청으로 응답을 받기까지의 대기 시간. 첫 문자까지와 전문의 완성까지를 구별한다.

처리량

일정 시간에 처리할 수 있는 요청 수나 token 수입니다.

메모리

모델이나 처리중의 정보를 둘 수 있는 용량.

비용

필요한 장비 및 운영 비용. 모델이나 제공 조건에 따라 달라진다.

업데이트하기 전과 업데이트한 후 비교

업데이트 횟수

가중치

예측

손실

0.1

0.2

0.64

분할·ID·수치는 모두 설명용

위치

token

3차원 임베딩

회사

120

[0.2, −0.4, 0.7]

가

[−0.1, 0.3, 0.2]

모델

305

[0.6, 0.1, −0.2]

을

[0.1, −0.2, 0.4]

Transformer의 주요 구조

구성

읽기 범위 및 용도

Encoder

입력 전후를 사용하여 문장의 표현을 만든다. 분류나 검색용 표현 등에 이용.

Decoder

각 위치까지의 정보를 사용하여 연속을 생성합니다. 여기서 설명하는 구성.

Encoder–Decoder

입력을 읽는 쪽과 출력을 생성하는 쪽을 결합합니다. 원논문은 번역에서 이 구성을 다룬다.

점수는 Softmax에 통과하기 전의 값입니다.

위치

K: 대조용

V: 섞는 정보

점수

1「회사」

[1, 0]

[0.4, 0.1]

0.707

2「모델」

[1, 1]

[0.8, 0.6]

1.414

3「그것」

[0, 1]

[0.1, 0.2]

0.707

논문 결과를 잘못 해석하지 않기 위한 확인 사항

보는 곳

확인하기

대상

어떤 모델, 언어, 데이터 및 과제로 시도했습니까?

비교 조건

계산량, 시도 횟수, 장비를 정렬하여 비교했습니까?

지표

한 번의 정답 또는 여러 후보 중 하나가 정답하는 비율

재현성

방법, 코드, 데이터, 논문의 버전을 확인할 수 있는지

한계

검증되지 않은 조건과 추가로 필요한 검증은 무엇입니까?

AI 배우기

읽고 싶은 곳부터

AI·LLM의 기초14

그림으로 살펴보기

AI·기계 학습·생성 AI는 무엇이 다른가?

AI · 기계 학습 · 생성 AI

왼쪽: 규칙으로 분류

가운데: 예에서 분류 배우기

오른쪽: 새로운 답장 만들기

심층 학습은 기계 학습의 일종입니다.

예:같은 메일에서도 역할이 다릅니다.

AI Inc.에서 생각하면

LLM이란? 어떻게 문장을 만드는가?

LLM: 연속을 계산하여 문장 만들기

문맥을 받다

다음 후보 계산

계속을 거듭하여 문장으로 한다

후보 후보 계산

모델과 채팅 앱은 별도

예:"비이므로"의 계속을 생각한다.

조심하다

AI Inc.에서 생각하면

token과 컨텍스트 창이란?

컨텍스트: 이번에 사용하는 정보

책상 위: 이번에 전달된 정보

선반 안: 아직 전달하지 않은 자료

문자 수와 단어 수와 일치하지 않음

대화나 자료도 참조하는 정보가 된다

예:자료를 책상에 펼치는 이미지

AI Inc.에서 생각하면

매개변수가 많을수록 좋은 모델일까요?

모델 선택:규모・용도・비용

왼쪽: 학습으로 조정할 수치

가운데 : 사용하는 일로 확인

오른쪽 : 자원과 비용도 비교

학습으로 조정할 수치

성능·자원·용도를 함께 본다

예:짧은 텍스트 분류와 복잡한 글쓰기

AI Inc.에서 생각하면

학습과 추론은 어떻게 다른가?

학습과 추론

학습: 모델 조정

추론: 학습된 모델 사용

학습은 예제에서 모델을 조정하는 시간

추론은 지금의 의뢰에 대답하는 시간

예:만든 후에도 운영비가 걸린다.

조심하다

AI Inc.에서 생각하면

사전 학습과 파인 튜닝이란?

사전 학습과 추가 학습

왼쪽: 광범위한 예로 토대 만들기

오른쪽: 용도에 맞는 예로 조정

사전 학습으로 기반 만들기

추가 학습으로 용도에 맞추기

예:문의 분류 형식 정렬

조심하다

AI Inc.에서 생각하면

학습 데이터는 양만큼 늘리면 좋을까?

학습 데이터 : 양 · 질 · 확인 방법

양 : 비슷한 예뿐이 아닌가?

질: 사용하는 장면에 맞는 예를 정돈한다

평가 : 사용하지 않은 예로 확인

사용하는 장면에 가까운 예를 정돈한다

학습 및 평가 데이터 분리

예:짧은 질문만으로 배우면

AI Inc.에서 생각하면

프롬프트를 쓰는 것도 학습일까요?

프롬프트: 목적·자료·출력 형식

목적 : 원하는 것을 말한다

자료: 사용 범위를 전달

형식: 대답의 형태를 전달

목적·자료·출력 형식을 전한다

대화의 연속은, 참조하는 정보의 계속

예:'요약하여'를 구체적으로

조심하다

AI Inc.에서 생각하면

RAG와 임베딩이란? 추가 학습과는 어떻게 다를까요?

RAG: 자료를 찾은 뒤 답하기

관련 자료 찾기

질문과 함께 전달