멀티헤드 어텐션은 트랜스포머가 여러 가지에 동시에 주의를 기울이게 합니다. 입력 X(n개 토큰 × d개 열)와 d × d 크기의 가중치 행렬에 대해:
- Q = X × w_q, K = X × w_k, V = X × w_v
- d개의 열을
num_heads개의 헤드로 나눕니다. 각 헤드는 연속된 d_k = d / num_heads개의 열을 가집니다 (헤드 h는 열 h×d_k부터 (h+1)×d_k - 1까지 사용). - 각 헤드에서 그 열들로 스케일드 닷-프로덕트 어텐션을 실행합니다: 토큰 i에 대해 그 헤드의 열로 score_j = (Q_i · K_j) / √d_k를 계산하고, n개의 모든 토큰 j에 대해 소프트맥스를 취한 뒤, 출력 = Σ weight_j × V_j (그 헤드의 열).
- 각 헤드의 출력을 원래 열에 다시 놓고(연결하고) w_o를 곱합니다.
multi_head_attention(x, w_q, w_k, w_v, w_o, num_heads)를 구현하세요.
입력
x: n × d 입력 행렬.
w_q, w_k, w_v, w_o: d × d 가중치 행렬.
num_heads: 헤드 수 (d는 이 수로 나누어떨어짐).
출력
n × d 출력 행렬을 반환하세요.
제약 조건
1 ≤ n ≤ 30, 1 ≤ d ≤ 32, 1 ≤ num_heads ≤ d이며 d는 num_heads로 나누어떨어짐
-5 ≤ 각 값 ≤ 5
예시
입력:
x = [
[1.0, 0.0],
[0.0, 1.0]
]
w_k = [
[1.0, 0.0],
[0.0, 1.0]
]
w_o = [
[1.0, 0.0],
[0.0, 1.0]
]
w_q = [
[0.0, 0.0],
[0.0, 0.0]
]
w_v = [
[1.0, 0.0],
[0.0, 1.0]
]
num_heads = 1
예상 출력:
[
[0.5, 0.5],
[0.5, 0.5]
]설명
w_q가 모두 0이므로 모든 점수가 0이고 각 토큰은 값 행들의 평균이 됩니다: V = X이므로 두 행 모두 [0.5, 0.5]가 됩니다.
입력:
x = [
[2.0, 4.0]
]
w_k = [
[1.0, 0.0],
[0.0, 1.0]
]
w_o = [
[0.0, 1.0],
[1.0, 0.0]
]
w_q = [
[1.0, 0.0],
[0.0, 1.0]
]
w_v = [
[1.0, 0.0],
[0.0, 1.0]
]
num_heads = 2
예상 출력:
[
[4.0, 2.0]
]설명
토큰이 하나뿐이므로 각 헤드는 자기 자신에게만 주의를 기울이고, 연결된 출력은 V = [2, 4]입니다. w_o가 두 열을 바꾸므로 [4, 2]가 됩니다.
참고 자료
-
예시 1 미실행입력:
x = [ [1.0, 0.0], [0.0, 1.0] ] w_k = [ [1.0, 0.0], [0.0, 1.0] ] w_o = [ [1.0, 0.0], [0.0, 1.0] ] w_q = [ [0.0, 0.0], [0.0, 0.0] ] w_v = [ [1.0, 0.0], [0.0, 1.0] ] num_heads = 1예상 출력:[ [0.5, 0.5], [0.5, 0.5] ]내 출력 -
예시 2 미실행입력:
x = [ [2.0, 4.0] ] w_k = [ [1.0, 0.0], [0.0, 1.0] ] w_o = [ [0.0, 1.0], [1.0, 0.0] ] w_q = [ [1.0, 0.0], [0.0, 1.0] ] w_v = [ [1.0, 0.0], [0.0, 1.0] ] num_heads = 2예상 출력:[ [4.0, 2.0] ]내 출력
제출 시 4개의 숨겨진 테스트도 실행됩니다.
온라인 C# 컴파일러 및 디버거
C#을 온라인에서 작성, 컴파일, 실행, 디버깅하세요. Visual Studio 없이 여러 파일 IDE에서 중단점, 단계별 실행, 객체 검사를 사용할 수 있습니다.
🔷 C# / .NET 온라인 실행기 소개
CodeUtility C# Executor는 브라우저에서 바로 실제 C# 코드를 작성하고 실행할 수 있게 해 줍니다 — 설치, Visual Studio 설정, .NET SDK가 필요 없습니다. .NET 런타임과 최신 C# 언어 버전(예: C# 9 이상)을 지원하는 안전한 샌드박스로 구동됩니다.
이 도구는 내부적으로 dotnet-script를 사용해 진짜 .NET 동작으로 코드를 컴파일하고 실행합니다. LINQ, async/await, 패턴 매칭, 제네릭 같은 기본부터 고급 C# 기능까지 자유롭게 실험해 보세요.
간단한 스크립트, 함수, 로직 흐름을 테스트하거나 클래스, 구조체, 상속, 인터페이스 같은 개념을 탐구할 수 있습니다 — 모두 깔끔하고 방해 요소 없는 코딩 환경에서요.
C#을 학습하든, 알고리즘을 시험해 보든, .NET 기능을 실험하든, CodeUtility C# Executor는 어떤 브라우저에서든 C# 코드를 즉시 실행할 수 있는 빠르고 안전하며 신뢰할 수 있는 방법을 제공합니다.
하나의 실행기에서 다중 파일 편집기, 격리된 실행 터미널, 런타임별 라이브러리, 영구 작업 공간, 공유 및 실시간 협업을 이용하세요.
이 실행기는 어떻게 사용하나요?
런타임을 선택하고 파일을 열거나 만든 다음 코드를 작성하고 실행을 선택하세요. 출력은 터미널에 표시되며, 로그인한 사용자는 작업 공간에 파일을 보관하고 라이브러리를 설치하며 공유를 통해 협업할 수 있습니다.
- 버전을 선택하고 현재 파일을 편집하거나 작업 공간의 다른 파일을 여세요.
- 코드를 실행하고 요청 시 터미널에 입력한 다음 저장된 실행 기록을 확인하세요.
- 작업에 둘 이상의 코드 조각이 필요하면 라이브러리, 작업 공간 도구, 공유 및 채팅을 사용하세요.
💡 위에서 바로 시도해 볼 수 있는 C# 기본 개념과 예제
1. 변수와 상수 선언
C#는 강한 타입의 변수 선언을 사용합니다. 컴파일 타임 상수에는 const, 런타임 상수에는 readonly를 사용하세요.
int age = 30;
double pi = 3.14159;
char grade = 'A';
string name = "Alice";
bool isActive = true;
// 상수
const int MaxUsers = 100;
const string Company = "CodeUtility";2. 조건문 (if / switch)
제어 흐름에는 if, else if, switch를 사용하세요.
int x = 2;
if (x == 1)
{
Console.WriteLine("One");
}
else if (x == 2)
{
Console.WriteLine("Two");
}
else
{
Console.WriteLine("Other");
}
switch (x)
{
case 1:
Console.WriteLine("One");
break;
case 2:
Console.WriteLine("Two");
break;
default:
Console.WriteLine("Other");
break;
}3. 반복문
C#는 for, while, foreach 반복문을 지원합니다.
for (int i = 0; i < 3; i++)
{
Console.WriteLine(i);
}
int n = 3;
while (n > 0)
{
Console.WriteLine(n);
n--;
}4. 배열
배열은 동일한 타입의 요소를 고정 크기로 저장합니다.
int[] numbers = { 10, 20, 30 };
Console.WriteLine(numbers[1]);5. 리스트 조작
동적 컬렉션에는 List<T>를 사용하세요.
List<int> nums = new List<int> { 1, 2, 3 };
nums.Add(4);
nums.Remove(2);
foreach (int n in nums)
{
Console.Write(n + " ");
}6. 콘솔 입력/출력
기본 I/O에는 Console.WriteLine과 Console.ReadLine을 사용하세요.
Console.Write("Enter your name: ");
string name = Console.ReadLine();
Console.WriteLine($"Hello, {name}!");7. 함수
반환 타입, 이름, 매개변수를 사용해 메서드를 정의합니다.
int Add(int a, int b)
{
return a + b;
}
Console.WriteLine(Add(3, 4));8. 딕셔너리
Dictionary<TKey, TValue>는 키-값 쌍을 저장합니다.
Dictionary<string, int> ages = new Dictionary<string, int>();
ages["Alice"] = 30;
Console.WriteLine(ages["Alice"]);9. 예외 처리
실행 시 오류는 try, catch, finally로 처리합니다.
try
{
throw new Exception("Something went wrong");
}
catch (Exception ex)
{
Console.WriteLine(ex.Message);
}10. 파일 입출력
파일 작업에는 File과 StreamReader/StreamWriter를 사용하세요.
File.WriteAllText("file.txt", "Hello File");
string text = File.ReadAllText("file.txt");
Console.WriteLine(text);11. 문자열 처리
C# 문자열은 Length, Substring, Contains 같은 메서드를 지원합니다.
string message = "Hello World";
Console.WriteLine(message.Length);
Console.WriteLine(message.Substring(0, 5));
Console.WriteLine(message.Contains("World"));12. 클래스와 객체
C#는 클래스와 객체를 통해 객체 지향 프로그래밍을 지원합니다.
class Person
{
public string Name;
public Person(string name) => Name = name;
public void Greet() => Console.WriteLine($"Hi, I'm {Name}");
}
Person p = new Person("Alice");
p.Greet();