행렬 곱셈 헷갈리는 순서와 계산법을 한 번에 정리합니다

숫자들이 네모 칸에 줄지어 있는 모습만 봐도 낯선데, 곱셈을 하려니 앞에서는 행을 짚고 뒤에서는 열을 짚어 곱하라는 말에 더 혼란스러울 수 있습니다. 게다가 곱하는 순서를 바꾸면 답이 달라진다고 하니 머리가 더 복잡해집니다. 행렬 곱셈은 처음 배우는 사람이라면 누구나 한 번쯤 막히는 지점이 있습니다. 이 글에서는 행렬 곱셈이 어렵게 느껴지는 이유를 정리하고, 실제 계산할 때 적용하는 순서와 주의할 실수까지 차근차근 풀어보겠습니다.

1 행렬 곱셈을 시작하기 전에 알아야 할 핵심
2 행렬 곱셈 계산 순서를 잡는 방법
3 행렬 곱셈에서 반복해서 나타나는 실수
4 AB와 BA가 다른 이유
- 4.1 단위행렬을 곱할 때만 순서가 상관없습니다
5 행렬 곱셈을 끝내고 나면
6 자주 묻는 질문

행렬 곱셈을 시작하기 전에 알아야 할 핵심

행렬은 가로줄인 행과 세로줄인 열로 이루어져 있습니다. 행렬끼리 더할 때는 같은 위치에 있는 숫자를 더하면 되지만, 곱셈은 계산 방식이 완전히 다릅니다. 아래 표에 세 가지 연산의 차이를 한눈에 정리했습니다.

연산	계산 방식	조건
덧셈	같은 자리의 숫자끼리 더함	두 행렬의 크기가 같아야 함
실수배	모든 칸에 같은 수를 곱함	조건 없음
곱셈	앞 행렬의 행과 뒤 행렬의 열을 짝지어 곱한 뒤 더함	앞 행렬의 열 수와 뒤 행렬의 행 수가 같아야 함

이 표에서 가장 눈여겨볼 부분은 곱셈입니다. 행렬 곱셈은 덧셈처럼 같은 자리끼리 계산하는 것이 아니라, 앞 행렬의 가로줄과 뒤 행렬의 세로줄을 하나씩 짝지어 곱하고 그 결과를 모두 더합니다. 그래서 계산을 시작하기 전에 곱셈이 가능한지부터 확인하는 습관이 중요합니다. 가령 2×3 행렬과 3×2 행렬은 가운데 숫자가 3으로 같기 때문에 곱할 수 있고, 결과는 바깥 숫자인 2×2 행렬이 됩니다.

행렬 곱셈 계산 순서를 잡는 방법

행렬 곱셈에서 결과 행렬의 한 칸은 곱셈 하나로 끝나지 않습니다. 왼쪽 행렬의 행에 있는 숫자들과 오른쪽 행렬의 열에 있는 숫자들을 차례로 곱한 다음, 그 값들을 모두 더해야 한 칸이 완성됩니다. 예를 들어 두 2×2 행렬 A와 B를 곱한다고 했을 때, AB의 1행 1열은 A의 1행에 있는 숫자와 B의 1열에 있는 숫자를 순서대로 곱해 더합니다. 1행 2열은 A의 1행과 B의 2열, 2행 1열은 A의 2행과 B의 1열, 2행 2열은 A의 2행과 B의 2열을 사용합니다.

처음에는 한 칸씩 천천히 채워 보는 것이 가장 확실합니다. 계산지에 결과 행렬의 네 칸을 미리 그려 두고, 각 칸에 들어갈 숫자가 어느 행과 어느 열에서 오는지 손가락으로 짚어 가며 채우면 실수가 크게 줄어듭니다. 행렬 곱셈은 눈으로 규칙을 이해하는 것보다 직접 손으로 여러 번 계산해 보는 연습이 훨씬 효과적입니다. 한 번에 네 칸을 모두 구하려고 하면 어떤 숫자를 곱하고 있는지 놓치기 쉽습니다.

행렬 곱셈에서 반복해서 나타나는 실수

학생들이 행렬 곱셈을 계산할 때 가장 자주 틀리는 지점은 생각보다 일정합니다. 처음부터 이 지점들을 알고 있으면 시행착오를 줄일 수 있습니다. 아래 목록을 참고해 자신의 계산 과정을 점검해 보세요.

덧셈처럼 같은 자리의 숫자끼리 곱하는 실수
AB를 구해야 하는데 순서를 바꿔 BA를 계산하는 실수
곱셈이 가능한지 확인하지 않고 바로 계산하는 실수
곱하는 줄을 잘못 짚어 다른 열의 숫자를 사용하는 실수

이 중에서도 가장 흔한 실수는 같은 자리의 숫자끼리 곱하는 것입니다. 행렬 곱셈은 덧셈과 달리 같은 위치에 있는 숫자를 곱하는 것이 아니라, 앞 행렬의 행과 뒤 행렬의 열을 짝지어 계산합니다. 그래서 계산할 때는 연필이나 손가락으로 왼쪽 행렬의 행을 짚은 다음, 오른쪽 행렬의 열을 짚어 하나씩 곱하는 과정을 반복하는 것이 좋습니다. 저도 처음 배울 때 이 규칙이 익숙하지 않아 몇 번이고 틀렸던 기억이 있습니다. 그러다가 결과 행렬의 각 칸이 어떤 행과 열에서 만들어지는지 먼저 적어 두는 습관을 들인 뒤로는 실수가 확연히 줄었습니다.

AB와 BA가 다른 이유

행렬에서 가장 낯선 사실은 곱하는 순서를 바꾸면 결과가 달라진다는 것입니다. 숫자 곱셈에서는 3×5와 5×3이 같지만, 행렬 곱셈에서는 AB와 BA가 다른 결과를 보여 줍니다. 곱셈의 정의 자체가 앞 행렬의 행과 뒤 행렬의 열을 사용하는 방식이기 때문에, 두 행렬의 위치가 바뀌면 짝을 짓는 숫자들도 바뀌기 때문입니다.

단위행렬을 곱할 때만 순서가 상관없습니다

순서를 바꿔도 결과가 같은 경우가 아예 없는 것은 아닙니다. 대각선 성분이 모두 1이고 나머지 성분이 0인 단위행렬 E를 곱할 때는 AE와 EA가 모두 A와 같아집니다. 숫자에서 1을 곱해도 원래 수가 유지되는 것과 같은 이치입니다. 다만 이것은 예외적인 경우이므로, 평소에는 문제에 적힌 순서 그대로 계산하는 습관을 들이는 것이 안전합니다.

행렬 곱셈을 끝내고 나면

지금까지 행렬 곱셈의 핵심 규칙, 계산 순서, 자주 나타나는 실수, 그리고 순서를 바꿨을 때 결과가 달라지는 이유를 살펴보았습니다. 행렬 곱셈은 앞 행렬의 행과 뒤 행렬의 열을 짝지어 곱한 뒤 더하는 하나의 규칙으로 모두 설명됩니다. 이 규칙을 기억하면 크기가 다른 행렬의 곱셈에서도 결과 행렬의 크기를 미리 예측할 수 있고, 곱셈이 성립하는지도 바로 판단할 수 있습니다. 앞으로 행렬을 공부할 때는 공식을 외우려고 애쓰기보다, 결과 행렬의 한 칸이 어떤 행과 열에서 오는지 먼저 떠올리는 습관을 가져 보시기 바랍니다. 그렇게 한 칸씩 정확히 채워 가는 연습을 반복하면 행렬 곱셈은 결코 어려운 계산이 아닙니다. 이 글이 행렬을 시작하는 많은 분에게 작은 도움이 되었으면 좋겠습니다.