Chapter 07

푸리에 광학과 PSF

렌즈는 빛을 모으는 장치이면서, 동시에 아날로그 푸리에 변환기다. 이 사실 하나로 회절, 결상, 수차, 해상력이 모두 같은 언어로 묶인다. 이 장에서는 공간 주파수라는 관점에서 영상을 다시 보고, 렌즈 동공 함수에서 점 퍼짐 함수(PSF)를 FFT로 직접 계산한다. 수차가 PSF를 어떻게 망가뜨리는지, 결맞는 빛과 결맞지 않는 빛의 결상이 어떻게 다른지 살펴본 뒤, 마지막으로 그 PSF가 0.6~2 µm 픽셀 격자에 떨어졌을 때 한 픽셀에 실제로 몇 %의 빛이 남는지까지 따라간다.

공간 주파수와 2차원 푸리에 변환

소리를 주파수(Hz)의 합으로 분해하듯, 영상은 공간 주파수(Spatial Frequency)의 합으로 분해할 수 있다. 공간 주파수는 단위 길이당 명암이 반복되는 횟수로, 광학에서는 보통 lp/mm(line pairs per millimeter) 또는 cycles/mm를 쓴다. 밝은 줄 하나와 어두운 줄 하나가 한 쌍(1 lp)이다. 주기 \(\Lambda\)인 격자의 공간 주파수는 \(\nu = 1/\Lambda\)이고, 2차원에서는 방향까지 포함한 벡터 \((\nu_x, \nu_y)\)가 된다.

$$G(\nu_x,\nu_y)=\iint g(x,y)\,e^{-i2\pi(\nu_x x+\nu_y y)}\,dx\,dy,\qquad g(x,y)=\iint G(\nu_x,\nu_y)\,e^{+i2\pi(\nu_x x+\nu_y y)}\,d\nu_x\,d\nu_y$$
\(g\)는 영상(진폭 또는 강도), \(G\)는 그 2차원 푸리에 스펙트럼. 기저 함수 \(e^{i2\pi(\nu_x x+\nu_y y)}\)는 파면 법선이 \((\nu_x,\nu_y)\) 방향이고 주기가 \(1/\sqrt{\nu_x^2+\nu_y^2}\)인 평면 '물결'이다. \(|G|\)는 그 물결의 세기, \(\arg G\)는 위치(위상)를 알려 준다.

스펙트럼을 읽는 규칙은 몇 가지뿐이다. ① 원점(DC)은 평균 밝기다. ② 원점에서 멀수록 미세한 구조다. ③ 줄무늬가 세로로 서 있으면(가로로 명암이 바뀌면) 스펙트럼 점은 가로축 위에 생긴다. 즉 스펙트럼 성분은 줄무늬에 수직이다. ④ 실수 영상의 스펙트럼은 \(G(-\nu)=G^*(\nu)\)로 원점 대칭이다. ⑤ 날카로운 경계는 경계에 수직한 방향으로 길게 뻗은 스펙트럼 꼬리를 만든다. 사각 개구가 십자 모양 스펙트럼을, 원형 개구가 동심원 고리 스펙트럼을 만드는 것이 이 규칙 때문이다(6장의 프라운호퍼 회절 무늬와 같다).

공간 영역 g(x, y) ν 벡터 주기 Λ = 1/|ν|, 30° 기울어진 격자 FT νx νy DC +ν −ν 주파수 영역 |G(νx, νy)| 점은 줄무늬에 수직, 거리 = 1/Λ 미세 구조 → 원점에서 멀리 평균 밝기 → 원점(DC)
그림 7-1. 정현 격자와 그 스펙트럼. 코사인 격자 \(\tfrac12+\tfrac12\cos 2\pi\boldsymbol\nu\cdot\mathbf r\)의 스펙트럼은 DC 하나와 \(\pm\boldsymbol\nu\)의 두 점뿐이다. 점을 잇는 선은 줄무늬에 수직이고, 원점까지 거리가 공간 주파수다.

디지털 영상에서는 이산 푸리에 변환(DFT)과 그 고속 알고리즘인 FFT를 쓴다. 한 변이 \(N\)개 샘플이고 샘플 간격이 \(\Delta x\)인 영상의 주파수 간격은 \(\Delta\nu = 1/(N\Delta x)\), 표현 가능한 최대 주파수는 \(\pm 1/(2\Delta x)\)(나이퀴스트)다. 이 관계 \(\Delta x\cdot\Delta\nu = 1/N\)은 이 장 전체에서 PSF를 계산할 때 샘플링 조건으로 다시 등장한다.

SIMULATOR

영상 ↔ 스펙트럼: 2D FFT 실험실

패턴
오른쪽 패널
격자 주파수—
스펙트럼 피크 위치 (νx, νy)—
DC 외 에너지 비율—
해볼 것: ① 격자 방향을 돌리면 스펙트럼 점이 줄무늬에 수직인 방향으로 함께 돈다. ② 주파수를 8 → 8.5로 바꾸면(창 안에 정수 주기가 들어가지 않으면) 점이 십자 모양으로 번진다. 이것이 FFT의 스펙트럼 누설(Leakage)이다. ③ '사각'과 '원형'에서 크기를 키우면 스펙트럼이 좁아지는 반비례 관계를 확인. ④ '글자'에서 '크기만 역변환'은 형체가 사라지고, '위상만 역변환'은 윤곽이 살아남는다. 영상의 구조 정보는 대부분 위상에 있다. (영상 한 변 128 샘플 = 128 µm로 가정)

렌즈는 푸리에 변환기다

왜 광학에서 푸리에 변환이 이렇게 자연스러울까? 각 공간 주파수 성분 \(e^{i2\pi(\nu_x x+\nu_y y)}\)은 물리적으로 기울어진 평면파이기 때문이다. 투과율 \(g(x,y)\)인 물체를 수직 평면파로 비추면, 투과광은 방향이 서로 다른 평면파들의 중첩(각 스펙트럼, 6장)이 된다. 공간 주파수 \(\nu_x\) 성분은 다음 각도로 진행한다.

$$\sin\theta_x = \lambda\,\nu_x \qquad(\text{격자 방정식과 같다})$$
\(\lambda\)는 매질 속 파장. \(\lambda\nu > 1\)이면 \(\sin\theta>1\)이 되어 전파하지 못하고 표면에 묶인 소멸파(Evanescent Wave)가 된다. 원거리 결상으로 옮길 수 있는 정보에는 \(1/\lambda\)라는 상한이 있다.

이제 물체 뒤에 초점거리 \(f\)인 렌즈를 놓자. 렌즈는 같은 방향으로 들어온 평행광을 뒤 초점면의 한 점에 모으므로, 각도 \(\theta_x\)로 진행하는 평면파는 \(u = f\tan\theta_x\approx f\sin\theta_x = \lambda f\nu_x\) 위치의 점이 된다. 즉 뒤 초점면의 위치 하나가 공간 주파수 하나에 대응한다. 이를 회절 적분으로 정리하면, 물체를 렌즈의 앞 초점면에 놓았을 때 뒤 초점면의 필드는 정확히 물체 필드의 푸리에 변환이 된다.

$$U_f(u,v)=\frac{1}{i\lambda f}\iint U_0(x,y)\,\exp\!\left[-i\frac{2\pi}{\lambda f}(xu+yv)\right]dx\,dy = \frac{1}{i\lambda f}\,G\!\left(\frac{u}{\lambda f},\frac{v}{\lambda f}\right)$$
\(U_0\): 앞 초점면의 입력 필드, \(U_f\): 뒤 초점면의 필드, \((u,v)\): 뒤 초점면 좌표. 얇은 렌즈의 위상 \(t_l = \exp[-ik(x^2+y^2)/2f]\)가 프레넬 전파의 이차 위상을 정확히 상쇄하기 때문에 생기는 결과다. 물체가 앞 초점면이 아니라 렌즈에 붙어 있으면 크기는 같고 이차 위상 인자만 추가로 붙는다.

수치로 감을 잡아 보자. 100 lp/mm 격자를 \(\lambda=550\) nm로 비추고 \(f=50\) mm 렌즈로 모으면 ±1차 회절점은 \(u=\lambda f\nu = 0.55\,\mu\text{m}\times 50\,\text{mm}\times 100/\text{mm} = 2.75\) mm 떨어진 곳에 생긴다. 반대로 지름 \(D\)인 조리개는 렌즈가 받아들일 수 있는 최대 주파수를 \(\nu_{\max} = (D/2)/(\lambda f)\)로 제한하는 '주파수 창'이다. 해상력이 조리개 지름으로 정해지는 이유가 바로 이것이다.

물체 g(x) 앞 초점면 렌즈 f 뒤 초점면 평면파 입사 +1 0 −1 u = λfν θ, sinθ = λν f f
그림 7-2. 렌즈의 푸리에 변환 작용. 격자를 지난 빛은 0차와 ±1차 평면파로 나뉘고, 각 평면파는 뒤 초점면의 한 점에 모인다. 점의 위치 \(u=\lambda f\nu\)가 공간 주파수, 밝기가 그 성분의 세기다. 이 '광학적 FFT'는 빛의 속도로, 병렬로 계산된다.
왜 '강도'는 위상을 잃는가

뒤 초점면에 센서를 두면 \(|U_f|^2 \propto |G|^2\), 즉 파워 스펙트럼만 기록된다. 위상 정보가 사라지므로 회절 무늬만으로는 물체를 되살릴 수 없다. X선 결정학과 위상 복원(Phase Retrieval) 알고리즘, 그리고 렌즈 수차를 PSF에서 역추정하는 위상 다양성(Phase Diversity) 기법이 모두 이 '잃어버린 위상'을 찾는 문제다. 위의 시뮬레이터에서 '위상만 역변환'이 얼마나 많은 정보를 담는지 확인해 보면 문제의 무게가 실감 난다.

4f 시스템과 공간 필터링

렌즈 두 개를 초점거리만큼 떼어 직렬로 놓으면 총 길이 \(4f\)인 4f 시스템(4f Correlator)이 된다. 첫 렌즈가 푸리에 변환을, 둘째 렌즈가 다시 푸리에 변환을 한다. 푸리에 변환을 두 번 하면 좌표가 뒤집힌 원래 함수 \(g(-x,-y)\)가 되므로, 출력면에는 배율 −1의 도립상이 생긴다. 핵심은 가운데 푸리에면(Fourier Plane)에 마스크 \(M(u,v)\)를 놓으면 스펙트럼에 직접 곱셈을 할 수 있다는 점이다.

$$U_{\text{out}}(x,y) = \mathcal F^{-1}\!\left\{G(\nu_x,\nu_y)\,H(\nu_x,\nu_y)\right\},\qquad H(\nu_x,\nu_y)=M(\lambda f\nu_x,\,\lambda f\nu_y)$$
\(H\)는 결맞는 전달 함수(Coherent Transfer Function). 출력은 입력과 \(h=\mathcal F^{-1}\{H\}\)의 컨볼루션이다. 출력 좌표 부호(도립)는 생략했다.
입력 g 렌즈 1 푸리에면 마스크 M 렌즈 2 출력 g⊗h ff ff 고주파(점선)는 차단
그림 7-3. 4f 공간 필터. 가운데 핀홀(저역 통과)은 큰 각도로 회절된 고주파 성분(점선)을 막고 0차 근처만 통과시킨다. 레이저 빔 정화용 '공간 필터'가 바로 현미경 대물렌즈 + 핀홀로 만든 4f 저역 필터다.

필터의 종류에 따라 출력이 극적으로 바뀐다. 저역 통과는 흐림, 고역 통과(가운데 차단)는 윤곽 강조(암시야, Dark-field), 한 방향으로 긴 슬릿은 특정 방향의 구조만 남긴다. 19세기 말 아베(Abbe)와 포터(Porter)가 철망 영상에서 세로선만 지워 보인 실험이 바로 이것이고, 제르니케(Zernike)는 0차 광에만 \(\pi/2\) 위상을 주어 투명한 세포를 보이게 하는 위상차 현미경으로 노벨상을 받았다. 이미지 센서와 관련해서는 반도체 노광 장비가 정확히 이 구조다. 마스크 패턴(물체)을 축소 투영 렌즈의 동공(푸리에면)을 지나 웨이퍼에 결상하므로, 픽셀의 DTI·마이크로렌즈·컬러 필터 패턴이 얼마나 미세하게 찍히는지가 이 원리로 정해진다.

SIMULATOR

4f 공간 필터: 입력 → 푸리에면 → 출력

입력
마스크
통과 에너지—
마스크 반경 ↔ 공간 주파수—
푸리에면 실제 크기 (λ=532 nm, f=100 mm)—
해볼 것: ① '철망 + 글자'에서 '가로 슬릿'을 고르면 가로 방향 주파수만 남아 세로선만 보인다(아베–포터 실험). 그런데 글자는 왜 흐려질까? ② 저역 반경을 3~4로 줄이면 철망 주기 성분(밝은 점 격자)이 잘려 철망이 사라지고 글자 덩어리만 남는다. ③ '고역'은 평탄한 면을 지우고 경계만 남기는 암시야 영상이다. 출력은 강도 |U|²이므로 경계 양쪽이 모두 밝다. (입력 한 변 = 128 × 20 µm = 2.56 mm 가정)

동공 함수에서 PSF로

카메라 렌즈처럼 물체를 상면에 결상하는 시스템으로 넘어가자. 3장에서 보았듯이 상 공간에서 빛의 원뿔은 출사동(Exit Pupil)에서 나와 상점으로 모인다. 무수차 렌즈라면 출사동을 떠나는 파면은 상점을 중심으로 한 완벽한 구면이다. 실제 렌즈의 파면은 이 기준 구면에서 \(W(\xi,\eta)\)만큼 어긋나 있는데, 이것이 파면 수차(Wavefront Aberration)다(4장). 출사동에서 수렴하는 구면파를 상면까지 전파시키는 프레넬 적분은 2절의 렌즈 푸리에 변환과 같은 꼴이 되므로, 한 점 물체의 상, 곧 점 퍼짐 함수(Point Spread Function, PSF)는 다음과 같다.

$$\mathcal P(\xi,\eta)=P(\xi,\eta)\,e^{\,i\frac{2\pi}{\lambda}W(\xi,\eta)},\qquad h(x,y)=\frac{1}{\lambda z}\iint \mathcal P(\xi,\eta)\,e^{-i\frac{2\pi}{\lambda z}(x\xi+y\eta)}\,d\xi\,d\eta,\qquad \text{PSF}(x,y)=\frac{|h(x,y)|^2}{\iint|h|^2}$$
\(P\): 동공 투과 함수(조리개 모양, 안쪽 1 / 바깥 0, 가장자리 감쇠가 있으면 0~1), \(W\): 파면 수차(길이), \(z\): 출사동–상면 거리, \(h\): 진폭 PSF(Amplitude Spread Function), PSF: 강도 PSF. 결론: PSF = |동공 함수의 푸리에 변환|².

원형 동공에 수차가 없으면 \(h\)는 \(2J_1(v)/v\), 강도는 에어리 패턴 \([2J_1(v)/v]^2\)이 된다. 여기서 \(v=\pi r/(\lambda N)\)이고 \(N = z/D\)는 작업 F-넘버다. 첫 영점 반경은 \(1.22\lambda N\)으로, λ=550 nm·F/1.8이면 1.21 µm, 지름 2.42 µm다. 1 µm 픽셀 하나보다 PSF 중심 원판이 두 배 이상 크다는 것이 소형 픽셀 광학의 출발점이다.

동공 함수 𝒫 = P·e^{i2πW/λ} (진폭, 동공 좌표 ξ, η) 진폭 PSF h(x, y) (결맞는 결상의 임펄스 응답) OTF(ν) = 𝒫 ⋆ 𝒫 / 면적 (동공의 자기상관, 8장) 강도 PSF = |h|² (결맞지 않는 결상의 임펄스 응답) 푸리에 변환 |·|² 푸리에 변환 자기상관
그림 7-4. 푸리에 광학의 '사각형'. 동공 함수에서 출발해 오른쪽으로 가면 PSF, 아래로 가면 OTF가 나온다. 두 경로는 같은 결과를 준다: OTF = 𝓕{|h|²} = 동공의 자기상관. 8장의 MTF는 이 OTF의 크기다.

FFT로 PSF를 계산할 때의 샘플링

컴퓨터에서는 \(N\times N\) 격자 안에 반지름 \(R\) 샘플짜리 원판을 그려 동공을 만들고, 2D FFT를 한 뒤 절댓값을 제곱하면 된다. 이때 상면에서 PSF의 샘플 간격은 다음과 같다.

$$\Delta x_{\text{PSF}}=\frac{\lambda z}{N\,\Delta\xi}=\lambda N_{\#}\,\frac{2R}{N}\qquad\left(\Delta\xi=\frac{D}{2R}\right),\qquad Q\equiv\frac{N}{2R}=\frac{\lambda N_{\#}}{\Delta x_{\text{PSF}}}$$
\(Q\)는 영 채움(Zero Padding) 비율. \(Q\ge 2\)이면 PSF가 나이퀴스트 샘플링되어(강도 PSF의 대역폭이 동공 지름의 두 배이므로) 앨리어싱이 없다. 이 장의 시뮬레이터는 \(N=128\), \(R=16\) → \(Q=4\)로, PSF 샘플 간격이 \(\lambda N_\#/4\)이다. \(R\)이 너무 작으면 동공 가장자리가 계단 모양이 되고, 수차 위상이 샘플당 \(\pi\)를 넘게 변하면 위상이 앨리어싱된다.
SIMULATOR

조리개 모양 → PSF (FFT 직접 계산)

동공 모양
동공 면적 (원형 대비)—
중심 피크 (같은 총에너지, 원형 대비)—
r ≤ 1.22λN 안의 에너지—
r > 2.5λN 바깥 에너지—
해볼 것: ① 원형 동공의 x 단면(실선)이 해석해 에어리(점선)와 겹치는지 확인 — FFT 계산이 맞다는 검증이다. ② 환형 차폐를 키우면 중심 원판은 오히려 좁아지지만 에너지가 고리로 빠져나가 꼬리 에너지가 늘어난다(반사 망원경, 일부 폴디드 렌즈). ③ D-컷은 잘린 방향으로 PSF가 길어진다 — 잠망경형 망원 모듈의 비대칭 해상력. ④ 정사각·육각은 가장자리에 수직한 방향으로 회절 스파이크가 생긴다. ⑤ 아포다이제이션은 고리를 줄이는 대신 중심이 넓어진다. (가로 폭 = ±8 λN, 동공 그림은 왼쪽 위)

파면 수차와 PSF, 스트렐 비

수차는 동공 함수의 위상에만 들어간다. 원형 동공 위의 파면은 직교 기저인 제르니케 다항식 \(Z_j(\rho,\theta)\)로 전개하는 것이 표준이다(4장). Noll 정규화를 쓰면 각 항의 RMS가 1이므로 계수 \(c_j\)가 그대로 그 항의 RMS 파면 오차가 되고, 전체 RMS는 피스톤·기울기를 뺀 계수들의 제곱합 제곱근이다.

$$W(\rho,\theta)=\sum_j c_j Z_j(\rho,\theta),\qquad \sigma_W=\sqrt{\sum_{j\ge4}c_j^2},\qquad S\equiv\frac{\text{PSF}_{\text{수차}}(0)}{\text{PSF}_{\text{무수차}}(0)}=\left|\frac{1}{\pi}\iint_{\rho\le1} e^{i2\pi W/\lambda}\,\rho\,d\rho\,d\theta\right|^2\approx e^{-(2\pi\sigma_W/\lambda)^2}$$
\(S\): 스트렐 비(Strehl Ratio), 같은 총에너지에서 PSF 최대값의 상대 크기. 오른쪽 근사는 마레샬(Maréchal) 근사로 \(S\gtrsim0.3\)에서 잘 맞는다. \(S=0.8\)(σ ≈ λ/14)이 관례적인 '회절 한계' 기준이다.

디포커스는 특히 중요하다. 상면이 \(\Delta z\)만큼 어긋나면 동공 가장자리 파면 오차는 \(W_{020}=\Delta z/(8N^2)\)(P-V)이고, 제르니케 계수로는 \(c_4 = W_{020}/(2\sqrt3)\)이다. 레일리의 λ/4 기준(\(W_{020}=\lambda/4\))을 쓰면 허용 초점 심도는 \(\Delta z = \pm2\lambda N^2\)로, λ=550 nm·F/1.8에서 ±3.6 µm에 불과하다. 모바일 렌즈 조립에서 센서 기울기(Tilt)와 높이를 µm 단위로 능동 정렬(Active Alignment)하는 이유다.

출사동 기준 구면 실제 파면 W(ξ, η) 가우스 상점 광선이 흩어짐 광선 수차 ε ≈ −(z/ρmax)·∂W/∂ρ ≈ −2N·∂W/∂ρ
그림 7-5. 파면 수차 \(W\)는 출사동에서 실제 파면과 상점을 중심으로 한 기준 구면 사이의 광로 차다. 광선은 파면에 수직이므로 파면 기울기 \(\partial W/\partial\rho\)만큼 상면에서 어긋난다(기하광학 스팟). 파동광학은 같은 \(W\)를 위상 \(2\pi W/\lambda\)로 넣고 FFT로 PSF를 계산한다.
SIMULATOR

제르니케 수차 → 파면 → PSF, 스트렐 비

RMS 파면 σ—
P-V 파면—
스트렐 S (FFT)—
마레샬 e^{−(2πσ)²}—
Z4에 해당하는 초점 이동 (F/1.8, 550 nm)—
해볼 것: ① 'λ/4 디포커스'(c₄ = 0.072λ)를 누르면 S ≈ 0.8 — 레일리 기준이 스트렐 0.8과 같은 뜻임을 확인. ② 코마는 PSF를 한쪽으로 끄는 꼬리를 만들고 피크도 옆으로 밀린다(중심 위치 오차 → 왜곡처럼 보임). ③ Noll의 Z11은 이미 최적 디포커스와 균형을 맞춘 형태(6ρ⁴−6ρ²+1)다. '근축 초점 구면수차' 버튼은 같은 Z11 = 0.1λ를 근축 초점(순수 ρ⁴)에서 본 경우로, Z4 = √15·Z11이 더해져 S가 크게 떨어진다 — 구면수차가 있으면 최적 초점은 근축 초점과 다르다. ④ 비점수차는 디포커스와 함께 주면 PSF가 가로/세로로 늘어난 '초선'이 된다. 계수 단위는 파장(λ) RMS.
RMS 파면 σ마레샬 S해석F/1.8·550 nm에서 같은 크기의 디포커스
λ/30 (0.033λ)0.96사실상 완벽, 고급 현미경 대물±1.6 µm
λ/14 (0.071λ)0.82마레샬 '회절 한계' 기준±3.5 µm (≈ λ/4 P-V)
λ/10 (0.10λ)0.67좋은 모바일 렌즈의 축상 수준±4.9 µm
λ/7 (0.14λ)0.46주변 화각, 조립 공차 누적±6.9 µm
λ/4 (0.25λ)0.08 (근사 붕괴)기하 수차 지배, PSF는 스팟으로±12 µm

표의 마지막 열은 \(\Delta z = 8N^2\cdot 2\sqrt3\,\sigma\)로 환산한 값이다. 모바일 렌즈 설계는 대개 화면 전체에서 '렌즈 단독 MTF'를 목표로 하며, 축상은 회절 한계에 가깝지만 0.8 필드 이상에서는 σ가 λ/7~λ/5까지 커진다. 이 차이가 화면 중심과 가장자리의 해상력 차이, 그리고 8장에서 보는 '가장자리 MTF'로 나타난다.

결맞는 결상과 결맞지 않는 결상

같은 렌즈라도 조명이 결맞는지(Coherent) 아닌지(Incoherent)에 따라 영상이 다르다. 레이저나 핀홀 조명처럼 물체의 모든 점이 같은 위상 관계로 빛나면 진폭이 더해지고, 햇빛이나 LED 아래 일반 장면처럼 각 점이 서로 무관하게 빛나면 강도가 더해진다(5장의 결맞음).

$$\text{결맞는:}\;\; I(x)=\left|\,U_g\otimes h\,\right|^2,\;\; H_c(\nu)=\mathcal P(\lambda z\nu) \qquad\quad \text{결맞지 않는:}\;\; I(x)=|U_g|^2\otimes|h|^2,\;\; \mathcal H(\nu)=\frac{\mathcal P\star\mathcal P}{\iint|P|^2}$$
\(H_c\): 진폭 전달 함수(ATF, Amplitude Transfer Function) — 동공 모양 그대로. \(\mathcal H\): 광학 전달 함수(OTF) — 동공의 자기상관. 무수차 원형 동공에서 ATF 차단 주파수는 \(\nu_c^{\text{coh}}=\text{NA}/\lambda = 1/(2\lambda N)\), OTF 차단 주파수는 그 두 배인 \(\nu_c=2\text{NA}/\lambda = 1/(\lambda N)\)이다.
공간 주파수 ν 전달 함수 −NA/λ NA/λ −2NA/λ 2NA/λ ATF (결맞는): 동공 그대로 OTF (결맞지 않는) = 동공 자기상관 1
그림 7-6. 원형 동공의 전달 함수 단면. 결맞는 결상은 \(\text{NA}/\lambda\)까지 진폭을 손실 없이 통과시키고 그 위는 완전히 자른다. 결맞지 않는 결상은 두 배 높은 \(2\text{NA}/\lambda\)까지 통과시키지만 주파수가 높을수록 점점 감쇠시킨다. 단, 하나는 진폭, 다른 하나는 강도의 전달 함수이므로 직접 비교에는 주의가 필요하다.

어느 쪽이 '해상력이 좋다'고 단정할 수는 없다. 결맞는 결상은 날카로운 경계에서 링잉(깁스 현상)과 스페클을 만들지만, 두 점이 서로 반대 위상이면 사이가 항상 0으로 떨어져 오히려 잘 분리된다. 반도체 노광에서 위상 반전 마스크(PSM)가 쓰는 원리다. 카메라가 찍는 일상 장면은 결맞지 않는 결상이므로, 이 책의 MTF(8장)는 모두 OTF를 기준으로 한다. 반면 픽셀 내부의 광학은 다르다. 렌즈에서 온 빛이 마이크로렌즈와 1~3 µm 광학 스택을 지나는 거리는 결맞음 길이(가시광 백색광 ~1 µm 수준, 컬러 필터를 지나면 수 µm)와 비슷하거나 짧기 때문에, 13장과 14장의 픽셀 시뮬레이션은 단색 결맞는 파동 계산(FDTD/RCWA)을 파장별로 하고 결과 강도를 더한다.

SIMULATOR

결맞는 vs 결맞지 않는 결상 (1D, 슬릿 동공)

물체
두 점의 상대 위상
물체 |t|²결맞는 결상결맞지 않는 결상
결맞는: 대비 / 중앙 딥—
결맞지 않는: 대비 / 중앙 딥—
판정—
해볼 것: ① 두 점, 위상 0, 간격 0.5 λ/NA(1D 레일리 간격)에서 결맞지 않는 결상은 가운데가 살짝 꺼지지만 결맞는 결상은 하나로 합쳐진다. ② 위상을 π로 바꾸면 결맞는 결상의 가운데가 정확히 0이 된다 — 위상 반전 마스크의 원리. ③ 엣지에서 결맞는 결상은 경계 바로 안쪽이 1을 넘는 링잉(깁스 현상: 진폭 약 +9% → 강도 약 +19%)을 보인다. ④ 격자 주기를 1 λ/NA 아래로 줄이면 결맞는 결상은 대비가 0이 되지만(±1차가 동공 밖), 결맞지 않는 결상은 0.5 λ/NA까지 대비가 남는다. 길이 단위는 λ/NA.

결상 = 물체 ⊗ PSF

결맞지 않는 결상에서 상의 강도 분포는 (배율로 축척한) 물체 강도와 PSF의 컨볼루션(Convolution)이다. 물체의 각 점이 PSF 모양으로 번지고, 그 번짐이 강도로 더해진다. 푸리에 영역에서는 곱셈이므로 스펙트럼마다 OTF가 곱해진다.

$$I_{\text{img}}(x,y)=\iint O(x',y')\,\text{PSF}(x-x',y-y')\,dx'dy' \quad\Longleftrightarrow\quad \tilde I_{\text{img}}(\nu_x,\nu_y)=\tilde O(\nu_x,\nu_y)\cdot\text{OTF}(\nu_x,\nu_y)$$
조건: PSF가 위치에 따라 변하지 않는 영역(등면 영역, Isoplanatic Patch) 안에서만 성립한다. 실제 렌즈의 PSF는 화각에 따라 변하므로, 영상 전체를 작은 타일로 나누고 타일마다 다른 PSF를 쓰는 것이 일반적인 시뮬레이션 방법이다.

이 모델에 픽셀을 더하면 센서 영상의 완전한 선형 모델이 된다. 상면 강도에 픽셀 개구 함수(감광 면적의 상자 함수와 광학 크로스토크 커널)를 컨볼루션한 뒤, 픽셀 피치 간격으로 샘플링한다. 즉 센서가 보는 '유효 PSF'는 \(\text{PSF}_{\text{lens}}\otimes\text{PSF}_{\text{pixel}}\)이고, 그것이 \(p\) 간격으로 샘플링된다. 샘플링이 만드는 앨리어싱은 8장에서 자세히 다룬다. 아래 시뮬레이터는 지멘스 스타(방사형 바퀴살 차트)를 사용한다. 반경 \(r\)에서 바퀴살의 공간 주파수는 \(\nu = n_{\text{cyc}}/(2\pi r)\)이므로 중심으로 갈수록 주파수가 높아져, 대비가 사라지는 반경에서 해상 한계를 바로 읽을 수 있다.

SIMULATOR

지멘스 스타 ⊗ PSF → 픽셀 샘플링

픽셀 피치
에어리 지름 2.44λN—
W₀₂₀ (가장자리 P-V)—
스트렐 S—
회절 차단 1/(λN) 반경—
나이퀴스트 1/(2p) 반경—
해볼 것: ① F/2에서 0.5 µm 픽셀을 고르면 차단 원(바깥 점선)이 나이퀴스트 원(안쪽)보다 바깥에 있다 — 렌즈가 해상력을 제한한다. 2.0 µm 픽셀에서는 반대로 픽셀이 제한하며, 나이퀴스트 원 안쪽에 엉뚱한 무늬(앨리어싱)가 생긴다. ② F/8로 조이면 2 µm 픽셀에서도 렌즈가 먼저 흐려진다. ③ 디포커스 Δz를 3~4 µm만 줘도 중심부가 회색으로 뭉개지고, 더 키우면 대비가 반전된 고리(위상 반전, 가짜 해상)가 나타난다. ④ 코마는 방향마다 해상 반경이 다르게 만든다. (λ = 550 nm, 화면 폭 32 µm)
실무 노트: PSF 기반 센서 영상 시뮬레이션

센서 개발 초기에는 실물 렌즈가 없으므로, 렌즈 설계 데이터(Zemax/CODE V의 화각별 Huygens PSF)를 받아 위와 같은 '물체 ⊗ PSF → 픽셀 적분 → 샘플링 → 노이즈 → ISP' 파이프라인으로 영상을 미리 만들어 본다. 이때 흔한 실수는 ① PSF 파일의 샘플 간격(µm)과 영상 픽셀 크기를 맞추지 않는 것, ② PSF의 중심을 주광선 위치가 아니라 배열 중심으로 가정해 화각별 왜곡·코마 이동을 빠뜨리는 것, ③ 단색 PSF 하나로 R/G/B 채널을 모두 처리하는 것이다. ③은 다음 절의 다색 PSF로 해결한다.

다색 PSF와 센서 분광 응답

PSF 크기는 파장에 비례한다(\(1.22\lambda N\)). 그래서 같은 렌즈에서도 R 채널 PSF는 B 채널보다 약 1.4배(650/460) 넓다. 게다가 렌즈 재료의 분산 때문에 파장마다 초점 위치가 달라지는 축상 색수차(Longitudinal Chromatic Aberration, LCA)가 남아 있으면, 한 채널을 맞추면 다른 채널은 디포커스 상태가 된다. 센서 채널이 실제로 보는 PSF는 광원 스펙트럼, IR 컷 필터, 컬러 필터, 실리콘 양자 효율의 곱으로 가중한 파장 적분이다.

$$\text{PSF}_c(x,y)=\frac{\displaystyle\int S(\lambda)\,T_{\text{IR}}(\lambda)\,T_c(\lambda)\,\eta(\lambda)\;\text{PSF}(x,y;\lambda,\Delta z(\lambda))\,d\lambda}{\displaystyle\int S(\lambda)\,T_{\text{IR}}(\lambda)\,T_c(\lambda)\,\eta(\lambda)\,d\lambda}$$
\(c\in\{R,G,B\}\), \(S\): 광원 스펙트럼, \(T_{\text{IR}}\): IR 컷 필터 투과율, \(T_c\): 컬러 필터 투과율, \(\eta\): 실리콘 흡수 효율, \(\Delta z(\lambda)\): 파장별 초점 이동. 각 단색 PSF는 같은 총에너지로 정규화한 뒤 더한다.

FFT로 계산할 때 요령이 있다. PSF 샘플 간격 \(\lambda N\cdot 2R/N_{\text{FFT}}\)은 파장에 비례하므로, 파장마다 동공 반경을 \(R_\lambda = R_0\lambda_0/\lambda\)로 바꿔 그리면 모든 파장의 PSF가 같은 µm 격자 위에 나와 그대로 더할 수 있다. 아래 시뮬레이터가 이 방법으로 400~700 nm를 16개 파장에서 계산한다.

SIMULATOR

R·G·B 채널의 다색 PSF와 축상 색수차

RGB오른쪽: 원 안 에너지(EE) vs 반경
유효 파장 R / G / B—
중심 픽셀 에너지 R / G / B—
EE 80% 반경 R / G / B—
해볼 것: ① 색수차 0에서도 R의 EE 곡선이 가장 느리게 올라간다(PSF ∝ λ). ② 색수차를 8 µm로 주면 B와 R이 반대 방향으로 디포커스되어 PSF 가장자리에 색 번짐(Color Fringe)이 생긴다. 초점을 −2 µm 쪽으로 옮겨 B를 살리면 R이 더 나빠지는 상충을 확인. ③ 피치를 줄이면 중심 픽셀 에너지가 빠르게 떨어지고, R이 가장 먼저 무너진다 — 소형 픽셀에서 R 채널의 광학 크로스토크가 큰 이유 중 하나. (광원 5000 K 흑체, IR 컷 650 nm, 실리콘 3 µm, 화면 폭 ±4λN)

픽셀이 보는 PSF: 앙상블 에너지

센서 입장에서 중요한 것은 PSF의 모양 자체보다 한 픽셀 개구 안에 들어오는 에너지다. 원 안에 들어오는 비율을 원형 에너지(Encircled Energy, EE), 정사각 픽셀 안에 들어오는 비율을 사각 에너지(Ensquared Energy)라 한다. 에어리 패턴의 원형 에너지는 닫힌 꼴이 있다.

$$\text{EE}_{\circ}(r)=1-J_0^2(v)-J_1^2(v),\quad v=\frac{\pi r}{\lambda N}\qquad\qquad \text{EE}_{\square}(p;x_0,y_0)=\iint_{|x-x_0|,|y-y_0|\le p/2}\text{PSF}(x,y)\,dx\,dy$$
첫 영점(\(r=1.22\lambda N\)) 안에 83.8%, 둘째 영점(\(2.23\lambda N\)) 안에 91.0%가 들어온다. 사각 에너지는 PSF 중심이 픽셀 중심에 있을 때(\(x_0=y_0=0\)) 최대이고, 픽셀 모서리(4픽셀이 만나는 점)에 있을 때 최소다.
p = 1.0 µm, F/1.8, λ = 550 nm 54% 1.3% 7.2% 1.3% 7.2% 7.2% 에어리 첫 영점 r = 1.21 µm 둘째 영점 r = 2.21 µm 중심 픽셀 54%, 이웃 4픽셀 각 7.2%, 대각 4픽셀 각 1.3% → 렌즈만으로 46%가 이웃으로
그림 7-7. F/1.8 렌즈의 회절 한계 PSF(녹색 550 nm)가 1.0 µm 픽셀 격자 중심에 떨어진 경우. 수차가 전혀 없어도 중심 픽셀에는 약 54%만 들어온다. 이것은 마이크로렌즈나 DTI로 줄일 수 있는 픽셀 내부 크로스토크와는 별개인 렌즈 PSF에 의한 공간 블러로, 해상력(MTF)의 문제다.
SIMULATOR

PSF × 픽셀 격자: 사각 에너지와 피치

PSF 중심 위치
최대 픽셀 에너지—
이웃 4픽셀 합—
에어리 지름 / 피치—
λN / p—
해볼 것: ① F/1.8·550 nm에서 피치를 2 µm → 0.7 µm로 줄이면 중심 픽셀 에너지가 83% → 32%로 떨어진다. 오른쪽 곡선(실선 = 픽셀 중심, 점선 = 모서리)에서 곡선의 '무릎'은 p ≈ 2λN 근처다. ② 같은 피치에서 F/1.4로 열면 PSF가 작아져 에너지가 회복된다 — 소형 픽셀 센서에 밝은 렌즈를 쓰는 또 하나의 이유. ③ '모서리'에서는 4픽셀이 에너지를 나눠 가진다(각 ~20%). 실제 영상에서는 점 광원이 어디에 떨어질지 모르므로 평균 성능은 두 경우 사이다.
픽셀 피치λN/p (F/1.8, 550 nm)중심 픽셀 EE (F/1.4)중심 픽셀 EE (F/1.8)중심 픽셀 EE (F/2.8)대표 제품군
0.56 µm1.7734%22%10%200 MP 모바일 (16-in-1 비닝)
0.7 µm1.4147%32%15%50~108 MP 모바일
0.8 µm1.2455%40%19%48~64 MP 모바일
1.0 µm0.9970%54%28%모바일 메인/서브
1.4 µm0.7182%74%47%대형 모바일, 12 MP
2.0 µm0.5085%84%70%보안·차량용(2~3 µm)

표는 회절 한계 에어리 PSF(단색 550 nm, 수차 0)를 픽셀 중심에 두고 정사각 픽셀 면적 전체로 적분한 값이다. 실제로는 수차, 다색 PSF, 픽셀 내부 크로스토크가 더해져 더 낮다. 0.56~0.7 µm 픽셀에서 '한 픽셀 = 한 점'이라는 생각은 성립하지 않으며, 이 센서들이 기본 출력을 4-in-1 또는 16-in-1 비닝으로 내는 것은 감도(SNR)뿐 아니라 이 광학적 사실과도 맞물려 있다. 고해상 모드에서의 실효 해상력은 렌즈 MTF가 결정한다(8장의 '렌즈 제한 vs 픽셀 제한').

PSF 블러와 광학 크로스토크를 구분하자

렌즈 PSF가 이웃 픽셀로 번지는 것은 상(像) 자체가 흐린 것이라 픽셀 구조로는 고칠 수 없다. 반면 광학 크로스토크(14장)는 픽셀 위에 올바르게 떨어진 빛이 컬러 필터·산화막·실리콘 안에서 옆 픽셀로 새는 것으로, 색이 섞이므로 색 재현(CCM 게인, 노이즈 증폭)에 직접 타격을 준다. 둘 다 MTF를 떨어뜨리지만 대책이 다르다: 전자는 렌즈(F/#, 수차), 후자는 마이크로렌즈·그리드·DTI. 측정에서도 슬랜티드 엣지 MTF(8장)는 둘을 합쳐서 보여 주므로, 렌즈 MTF를 따로 측정해 나눠 보는 것이 원인 분석의 첫걸음이다.

핵심 정리

  1. 영상은 공간 주파수 성분의 합이다. 스펙트럼 점은 줄무늬에 수직이고 원점과의 거리가 1/주기다. 구조 정보의 대부분은 위상에 있다.
  2. 각 공간 주파수는 \(\sin\theta=\lambda\nu\) 방향의 평면파이고, 렌즈는 이를 뒤 초점면의 점 \(u=\lambda f\nu\)로 모은다. 렌즈 = 광학 푸리에 변환기.
  3. 4f 시스템의 푸리에면 마스크는 스펙트럼에 직접 곱해진다(저역·고역·방향 필터, 위상차 현미경, 노광 장비).
  4. PSF = |𝓕{P·e^{i2πW/λ}}|². FFT 계산 시 PSF 샘플 간격은 \(\lambda N\cdot 2R/N_{\text{FFT}}\), 영 채움 \(Q\ge2\)이 필요하다.
  5. 제르니케 RMS 계수의 제곱합이 파면 분산이다. 스트렐 \(S\approx e^{-(2\pi\sigma/\lambda)^2}\), σ = λ/14 ↔ S = 0.8 ↔ λ/4 디포커스 ↔ \(\Delta z=\pm2\lambda N^2\).
  6. 결맞는 결상은 진폭 전달(ATF = 동공, 차단 NA/λ), 결맞지 않는 결상은 강도 전달(OTF = 동공 자기상관, 차단 2NA/λ = 1/(λN)).
  7. 결맞지 않는 결상은 물체 ⊗ PSF이고, 센서 영상은 여기에 픽셀 개구를 컨볼루션하고 피치로 샘플링한 것이다.
  8. 채널 PSF는 광원·IR 컷·CF·QE로 가중한 다색 PSF다. R 채널 PSF가 가장 넓고, 축상 색수차는 채널별 디포커스를 만든다.
  9. F/1.8 렌즈의 회절 PSF만으로도 1.0 µm 픽셀 중심 에너지는 ~54%, 0.7 µm에서는 ~32%다. λN/p가 1을 넘으면 렌즈가 해상력을 제한한다.

확인 퀴즈

Q1. 가로 방향으로 밝기가 주기 5 µm로 바뀌는(세로 줄무늬) 코사인 패턴의 2D 스펙트럼은 어디에 점이 생길까?

명암이 x 방향으로 바뀌므로 성분은 νx축 위에 있고, 1/(5 µm) = 200 lp/mm다. 평균 밝기 때문에 DC 점도 있다. 스펙트럼 점은 줄무늬에 수직인 방향에 놓인다.

Q2. f = 100 mm 렌즈의 뒤 초점면에서 λ = 633 nm 레이저로 비춘 50 lp/mm 격자의 +1차 회절점은 광축에서 얼마나 떨어질까?

\(u=\lambda f\nu = 0.633\times10^{-3}\,\text{mm}\times100\,\text{mm}\times50/\text{mm} = 3.17\) mm.

Q3. 4f 시스템의 푸리에면에 가운데만 막는 작은 원판(고역 통과)을 놓으면 출력 영상은?

DC와 저주파가 제거되므로 균일 영역은 0에 가까워지고 경계(고주파)만 남는다. 출력은 강도이므로 경계 양쪽 모두 밝게 보이는 암시야(Dark-field) 영상이다.

Q4. 128×128 FFT로 PSF를 계산하면서 동공 반지름을 32 샘플로 그렸다. F/2, λ = 0.5 µm일 때 PSF 샘플 간격과 샘플링 상태는?

\(\Delta x = \lambda N\cdot 2R/N_{\text{FFT}} = 1.0\,\mu\text{m}\times 64/128 = 0.5\) µm, \(Q = 128/64 = 2\). 강도 PSF가 딱 나이퀴스트로 샘플링되는 최소 조건이다. 보기 좋은 그림에는 Q = 3~4를 권한다.

Q5. 제르니케 계수가 디포커스 0.05λ, 코마 0.06λ, 비점수차 0.04λ(모두 Noll RMS)인 렌즈의 마레샬 스트렐 비에 가장 가까운 값은?

\(\sigma=\sqrt{0.05^2+0.06^2+0.04^2}=0.0877\lambda\), \(S\approx e^{-(2\pi\cdot0.0877)^2}=e^{-0.304}=0.74\). 직교 다항식이라 RMS가 제곱합으로 더해진다는 점이 핵심이다.

Q6. F/2.0 렌즈(λ = 550 nm)에서 레일리 λ/4 기준의 초점 심도(±)는?

\(\Delta z=\pm2\lambda N^2 = \pm2\times0.55\times4 = \pm4.4\) µm. \(W_{020}=\Delta z/(8N^2)=\lambda/4\)에서 나온다.

Q7. 같은 무수차 원형 동공에서 결맞는 결상과 결맞지 않는 결상의 (강도 영상 기준) 차단 주파수 관계는?

ATF는 동공 자체라 NA/λ에서 끊기고, OTF는 동공의 자기상관이라 지지 영역이 두 배(2NA/λ = 1/(λN))다. 단 OTF는 고주파로 갈수록 감쇠한다.

Q8. 0.7 µm 픽셀 센서에 F/1.8 렌즈를 썼을 때 회절 한계 PSF(550 nm)가 픽셀 중심에 떨어지면 중심 픽셀에 들어오는 에너지는 대략?

에어리 지름 2.42 µm가 피치 0.7 µm의 3배 이상이다. 정사각 적분하면 ~32%로, 나머지는 이웃 픽셀로 번진다(렌즈 제한 영역, λN/p ≈ 1.4).

Q9. 다색 PSF를 FFT로 계산할 때 파장마다 동공 반경을 \(R_\lambda=R_0\lambda_0/\lambda\)로 바꾸는 이유는?

PSF 샘플 간격이 λ·R에 비례하므로 λR을 일정하게 두면 파장별 PSF가 같은 µm 격자 위에 나온다. 물리적 조리개는 그대로이며 계산상의 요령이다.