전자기 시뮬레이션: RCWA·FDTD
픽셀 피치가 0.6 µm까지 줄어든 오늘날, 마이크로렌즈 하나의 크기는 빛의 파장과 거의 같다. 이 크기에서는 광선이 직진한다는 가정도, 층이 무한히 넓다는 TMM의 가정도 맞지 않는다. 남는 방법은 맥스웰 방정식을 그대로 푸는 것뿐이다. 이 장에서는 주기 구조를 푸리에 급수로 다루는 RCWA와 시간 영역에서 전자기장을 한 칸씩 전진시키는 FDTD의 원리를 공부한다. 두 방법을 페이지 안에서 실제로 구현해 돌려 보고, 픽셀 시뮬레이션 실무에서 결과를 믿을 수 있게 만드는 수렴 점검 방법도 익힌다.
- 픽셀 피치·스택 두께가 파장과 비슷해질 때 광선 추적과 TMM이 어떤 가정에서 무너지는지 설명한다.
- TMM·RCWA·FDTD·FEM의 이산화 방식, 장단점, 계산량 스케일링을 비교해 문제에 맞는 해석법을 고른다.
- RCWA의 핵심인 유전율 푸리에 전개, 플로케 고조파 \(k_{x,m}=k_{x0}-2\pi m/\Lambda\), 층별 고윳값 문제, S 행렬 결합, 회절 효율을 유도한다.
- 깁스 현상과 Li의 역규칙(Inverse Rule)이 TM 편광 수렴을 어떻게 바꾸는지 직접 계산해 확인한다.
- FDTD의 Yee 격자, 립프로그 시간 전진, 쿠랑(CFL) 조건, 수치 분산, PML 흡수 경계와 광원 설정을 이해한다.
- 주기 경계, 사입사(블로흐 위상), 메시 λ/(20n), 수렴 점검, 계산 시간 추정을 포함한 픽셀 시뮬레이션 작업 흐름을 세운다.
왜 전파(Full-wave) 해석이 필요한가
앞 장들에서 쓴 도구는 모두 근사다. 광선 광학은 구조가 파장보다 충분히 클 때(\(D\gg\lambda\)) 맞는다. TMM은 층이 옆으로 무한히 넓고 균일해서 경계면에서 반사·투과만 일어난다고 가정한다. 스칼라 회절 이론은 편광과 경계면의 벡터 성질을 무시한다. 그런데 현재 모바일 센서의 픽셀은 이 세 가정을 모두 벗어난다.
- 피치 ≈ 파장: 0.7 µm 피치는 녹색광의 진공 파장(0.53 µm)과 비슷하다. 산화막(n≈1.46) 안에서 파장은 0.36 µm, 실리콘(n≈4.1) 안에서는 0.13 µm다. 마이크로렌즈는 몇 개의 회절 차수만 다루는 "격자"처럼 동작한다.
- 옆 방향이 균일하지 않다: 마이크로렌즈 곡면, 컬러 필터 사이의 그리드, DTI 벽이 수평 방향으로 굴절률을 바꾼다. TMM은 각 층을 평균 굴절률로 대체하는 수밖에 없다.
- 도파와 근접장: DTI 사이 실리콘 기둥(폭 0.6 µm, n≈4)은 몇 개의 모드만 지지하는 도파로다. 얕은 각도의 광은 전반사와 소멸파로 이웃 픽셀에 새어 들어간다. 광선 추적으로는 이 현상을 계산할 수 없다.
주기 \(\Lambda\)인 구조에 빛이 들어오면 출사광은 아무 방향으로나 나가지 못하고, 격자 방정식(Grating Equation)이 허락한 이산적인 방향(회절 차수)으로만 나간다. 이미지 센서는 마이크로렌즈·컬러 필터 배열 자체가 주기 \(\Lambda\)(베이어면 \(2p\))의 2차원 격자다.
예를 들어 \(\Lambda=1.0\) µm, \(\lambda=0.55\) µm로 수직 입사하면 공기 쪽 반사에는 \(m=\pm1\)(\(\sin\theta=0.55\), 33°)이 있다. 산화막 안에서는 \(\pm1\)(22°)에 더해 이론상 \(\pm2\)(\(\sin\theta=1.10/1.46\), 49°)까지 진행한다. 실리콘 안에서는 \(\pm7\)차까지 열린다. 굴절률이 높은 매질일수록 진행 차수가 많아지므로, 실리콘 안의 장은 공기 쪽보다 훨씬 더 "파동답게" 복잡하다.
격자 방정식: 픽셀 주기가 허락하는 회절 차수
① 광선 추적으로 구한 마이크로렌즈 초점이 실리콘 표면 아래 몇 µm에 찍히는데, 실제 측정한 각도 응답은 훨씬 넓다. 이것은 회절에 의한 초점 확산이다(13장). ② TMM QE와 측정 QE가 단파장에서는 맞지만 장파장으로 갈수록 크로스토크 때문에 어긋난다. ③ 같은 스택에서 피치만 줄였는데 QE 피크 파장과 리플이 바뀐다. 셋 중 하나라도 보이면 전파 해석이 필요하다.
해석법 지도: TMM · RCWA · FDTD · FEM
전자기 수치 해석법은 맥스웰 방정식을 어떤 영역에서(주파수 또는 시간), 어떤 기저로(평면파, 격자점, 유한 요소) 이산화하느냐에 따라 나뉜다. 단일 주파수 \(\omega\)에서 시간 의존성 \(e^{-i\omega t}\)를 가정하면 맥스웰 방정식은 다음 헬름홀츠형 방정식이 된다.
| 방법 | 영역·기저 | 잘 맞는 문제 | 약점 | 계산량 스케일 (대략) |
|---|---|---|---|---|
| TMM | 주파수, 층마다 평면파 2개 | AR 코팅, IR 컷 필터, 평판 스택의 QE 리플 | 옆 방향 구조를 표현하지 못함 | \(O(L)\), µs 단위 |
| RCWA (FMM) | 주파수, 푸리에 고조파 \(N\)개 × 층 | 주기 격자, 컬러 라우터, 서브파장 AR, 층상 픽셀 스택 | 곡면은 계단 근사, 금속·고대비에서 수렴 느림 | \(O(L\,N^3)\), 2D 주기면 \(N=(2M+1)^2\) |
| FDTD | 시간, 직교 격자 \(\Delta x\) | 임의 3D 형상, 광대역 한 번에, 비주기·단일 픽셀 조명 | 계단 경계 오차, 분산 재료 피팅, 사입사 광대역 처리 | \(O(N_{\text{cell}}\,N_t)\sim (L/\Delta x)^4\) |
| FEM | 주파수, 유한 요소 | 곡면·얇은 금속막의 정밀 해석, 공진기 | 메시 생성, 큰 3D에서 메모리 많이 필요 | 희소 해법 \(\sim O(N^{1.5\text{–}2})\) |
FEM(유한 요소법)은 곡면 마이크로렌즈나 얇은 텅스텐 그리드처럼 경계가 복잡한 구조를 메시가 그대로 따라가므로 정확도가 높다. 다만 3D 픽셀 배열 전체를 주파수마다 다시 풀어야 하고 메모리 요구량이 크다. 그래서 이미지 센서 업계의 일상 업무는 FDTD(형상 자유, 광대역)와 RCWA(주기 구조, 빠른 파장·각도 스윕)가 양분한다. FEM은 특정 구조를 정밀 검증할 때 주로 쓴다. 이 장의 나머지는 이 두 방법에 집중한다.
RCWA 원리: 푸리에 전개와 플로케 고조파
엄밀 결합파 해석(Rigorous Coupled-Wave Analysis, RCWA)은 푸리에 모드법(Fourier Modal Method, FMM)이라고도 부르며, Moharam과 Gaylord가 1981년에 정식화했다. 아이디어는 세 단계다.
- 층 나누기: 구조를 \(z\) 방향으로 잘라, 각 슬랩 안에서는 굴절률이 \(x\)(와 \(y\))에만 의존하게 만든다. 곡면 마이크로렌즈는 10~30장의 계단 슬랩으로 근사한다.
- 푸리에 전개: 각 슬랩의 유전율과 장을 수평 방향 푸리에 급수로 쓴다. 주기 구조이므로 이 표현은 정확하다(단, 차수를 잘라내면 근사가 된다).
- 고윳값 문제와 경계 정합: 슬랩 안에서는 \(z\) 방향 해가 지수 함수의 조합이므로 고유 모드를 해석적으로 구한다. 슬랩 사이 경계에서 접선 성분을 맞춰 전체 반사·투과를 얻는다.
주기 \(\Lambda\)인 슬랩의 비유전율은 다음처럼 쓴다.
블로흐–플로케 정리(Bloch–Floquet Theorem)에 따르면 주기 구조 안의 장은 입사파의 위상 기울기 \(e^{ik_{x0}x}\)에 주기 함수를 곱한 꼴이다. 따라서 장 역시 이산적인 수평 파수의 합으로 쓸 수 있다.
TE 편광(\(E_y\)만 존재, 홈이 \(y\) 방향)이면 각 슬랩에서 맥스웰 방정식은 \(\partial_z^2E_y=-\partial_x^2E_y-k_0^2\varepsilon(x)E_y\)가 된다. 이를 푸리에 공간에서 쓰고, 정규화 좌표 \(z'=k_0z\)와 \(K_x=\mathrm{diag}(k_{x,m}/k_0)\)를 도입하면 행렬 2계 미분방정식이 된다.
\(\Omega^2=W\Lambda^2W^{-1}\)로 대각화하면 슬랩 안의 일반해가 나온다.
실제 픽셀은 \(x\), \(y\) 모두 주기적이다. 차수를 \(\pm M_x\), \(\pm M_y\)로 자르면 고조파 수는 \(N=(2M_x+1)(2M_y+1)\)이다. 두 편광 성분이 결합하므로 고윳값 문제의 크기는 \(2N\times2N\)이 된다. \(M=10\)이면 \(N=441\), 행렬은 882×882이고 고윳값 분해 비용은 \(\sim(2N)^3\approx7\times10^8\)회의 복소 연산이다. 계단 슬랩이 20장이면 파장 하나에 수 초가 걸린다. 차수를 두 배로 늘리면 \(N\)은 네 배, 시간은 64배가 된다. RCWA에서 수렴 점검이 곧 계산 예산 관리인 이유다.
S 행렬로 층 쌓기와 회절 효율
각 슬랩의 모드를 구했으면 슬랩 경계에서 \(E_y\)와 \(H_x\)(접선 성분)의 고조파가 연속이라는 조건으로 모드 진폭을 잇는다. 가장 직관적인 방법은 TMM처럼 전달 행렬 \(T\)를 곱해 나가는 것이다. 하지만 RCWA에서는 이 방법이 수치적으로 터진다. 두꺼운 슬랩의 감쇠 모드는 \(e^{-\lambda k_0 d}\)로 작아지지만, 전달 행렬에는 그 역수 \(e^{+\lambda k_0 d}\)도 함께 들어간다. 예를 들어 Si 층(\(d=3\) µm)에서 \(M=10\)이면 \(\lambda k_0d\)가 수백에 이르러 배정밀도(\(10^{308}\))를 넘는다.
해결책은 들어오는 파동을 나가는 파동으로 보내는 산란 행렬(Scattering Matrix)을 쓰는 것이다. S 행렬에는 감쇠하는 지수 \(X=e^{-\lambda k_0 d}\)만 등장하므로 아무리 두꺼워도 안정적이다.
두 S 행렬을 합치는 연산은 레드헤퍼 별곱(Redheffer Star Product)이다. 두 층 사이를 무한히 왕복하는 다중 반사를 기하급수 합 \((I-S^B_{11}S^A_{22})^{-1}\)으로 한 번에 더하는 셈이다.
입사 차수 \(m=0\)에 단위 진폭을 넣으면 반사·투과 고조파 진폭 \(r_m=\left(S_{11}\right)_{m0}\), \(t_m=\left(S_{21}\right)_{m0}\)이 나온다. 각 차수가 운반하는 파워는 포인팅 벡터의 \(z\) 성분으로 정규화한다.
1D 격자 RCWA: 회절 효율 스펙트럼 (페이지 안에서 실제 계산)
OPT.tmm과의 차이를 보여 준다(10⁻¹⁰ 이하). ② Λ = 300 nm처럼 작은 주기에서는 회절 곡선이 0이고 T₀가 회색 점선(유효 매질 TMM)과 거의 겹친다. 이것이 서브파장 구조의 등가 박막 근사다. ③ Λ를 600~900 nm로 키우면 λ = Λ·nsub 근처(세로 점선, 레일리 이상)에서 1차 투과가 열리고 0차가 급변한다. ④ 에너지 합은 어떤 설정에서도 1.000000이어야 한다. 구조: 공기 / 격자(리지 + 공기 홈) / SiO₂ 기판.① 손실 없는 구조에서 \(\sum R+\sum T=1\)(10⁻⁸ 이내). ② 균일 층에서 TMM과 일치. ③ 출판된 벤치마크(Moharam 1995의 이진 격자 표, 또는 S4 결과)와 비교. ④ 차수를 늘릴 때 결과가 단조롭게 수렴. ⑤ 반대 입사각(\(\pm\theta\))에서 0차 효율의 상반성(Reciprocity). 이 페이지의 구현은 ①②를 실시간으로 표시한다. 상용 도구를 쓰더라도 새 구조를 시작할 때는 ①과 ④를 직접 확인하는 습관을 들이자.
수렴: 깁스 현상과 Li의 역규칙
RCWA의 유일한 근사는 푸리에 급수를 \(\pm M\)에서 자른다는 것이다. 이진 격자처럼 굴절률이 불연속이면 잘린 급수는 계단 모서리에서 약 9% 넘치고 출렁이는 깁스 현상(Gibbs Phenomenon)을 보인다. 차수를 늘려도 출렁임의 폭은 줄지만 높이는 줄지 않는다. 그래서 고대비 격자(Si/공기, 금속)에서는 수렴이 느리다.
잘린 푸리에 급수: ε 재구성과 깁스 오버슈트
더 근본적인 문제는 곱의 푸리에 계수를 어떻게 계산하느냐다. TM 편광(\(H_y\), 장 성분 \(E_x, E_z\))에서는 수직 경계(리지 옆면)에 수직인 \(E_x\)가 불연속이고, \(D_x=\varepsilon E_x\)는 연속이다. 불연속 함수 둘을 곱해 연속 함수가 되는 경우에 단순한 합성곱(로랑 규칙, Laurent's Rule)을 쓰면 잘린 급수가 매우 느리게 수렴한다. Lifeng Li(1996)는 이런 경우에 역수의 토플리츠 행렬을 뒤집어 쓰는 역규칙(Inverse Rule)이 옳은 인수분해임을 보였다. 같은 해 Lalanne·Morris, Granet·Guizal도 같은 처방을 경험적으로 발견했다.
2D 주기 픽셀에서는 경계 법선 방향이 위치마다 달라지므로, 장을 법선·접선 성분으로 나누는 법선 벡터장 방법(Normal Vector Method, Schuster·Götz 등)이 쓰인다. 원형 마이크로렌즈 단면, 원기둥 메타표면처럼 곡선 경계가 있는 구조에서 수렴 속도를 크게 개선한다. S4, Lumerical RCWA 같은 도구에는 이 옵션이 있고, 기본값이 아닌 경우도 있으니 확인해야 한다.
RCWA 수렴 시험: TE vs TM(로랑) vs TM(Li 역규칙)
무한 급수에서는 \(\llbracket fg\rrbracket=\llbracket f\rrbracket\llbracket g\rrbracket\)가 정확하다. 문제는 잘라낸 유한 행렬에서 생긴다. \(f\)와 \(g\)가 같은 위치에서 불연속이고 곱이 연속이면, 잘린 합성곱은 그 점에서 \(f\)의 깁스 출렁임과 \(g\)의 깁스 출렁임을 곱하게 된다. 그 결과 곱의 연속성이 깨지고 수렴 차수가 떨어진다. \(fg=h\)가 연속일 때는 \(g=h/f\)로 보고 \(\llbracket 1/f\rrbracket^{-1}\llbracket g\rrbracket\)를 쓰면 \(h\)의 매끈함을 보존한다(Li, JOSA A 13, 1870, 1996). FDTD에서도 같은 문제가 이방성 서브픽셀 평균(\(\varepsilon_\parallel\)는 산술 평균, \(\varepsilon_\perp\)는 조화 평균)으로 다시 나타난다.
FDTD: Yee 격자와 립프로그
시간 영역 유한 차분법(Finite-Difference Time-Domain, FDTD)은 Kane Yee(1966)가 제안한 엇갈린 격자 위에서 맥스웰의 두 회전 방정식을 시간에 따라 번갈아 전진시킨다. 행렬을 풀 필요가 없다. 매 스텝은 이웃 격자점 몇 개의 차분만 계산하므로 GPU 병렬화가 쉽고, 메모리는 격자점 수에 비례한다.
2D TMz 모드(\(E_z, H_x, H_y\))로 쓰면 다음과 같다. 픽셀 단면에서 \(E_z\)는 단면에 수직인 성분이므로 RCWA의 TE(\(E_y\))와 같은 물리다.
Yee 격자에서는 \(E_z\)를 정수 격자점 \((i,j)\)에, \(H_y\)를 \((i+\tfrac12,j)\), \(H_x\)를 \((i,j+\tfrac12)\)에 둔다. 시간도 \(E\)는 정수 스텝 \(n\), \(H\)는 반 스텝 \(n+\tfrac12\)에 둔다. 그러면 모든 미분이 2차 정확도의 중심 차분이 된다.
쿠랑–프리드리히스–레비(CFL) 조건. 명시적 시간 전진은 한 스텝 동안 정보가 한 칸보다 멀리 가면 불안정해진다. 균일 격자의 안정 조건은 다음과 같다.
수치 분산. 차분 근사 때문에 격자 위의 파동은 실제보다 약간 느리게, 방향과 파장에 따라 다르게 진행한다. 1D에서 분산 관계는 \(\sin(\omega\Delta t/2)/(c\Delta t)=\sin(k\Delta x/2)/\Delta x\)다. 파장당 격자점 수 \(N_\lambda=\lambda/(n\Delta x)\)가 클수록 정확하다. 위상 속도 오차는 대략 \((\pi/N_\lambda)^2(1-S^2)/6\)이다. \(N_\lambda=10\)이면 \(S\)가 작을 때 약 1.6%다. 이 오차는 수 µm를 지나며 위상으로 쌓인다. 실리콘 안 파장이 짧기 때문에(450 nm에서 \(\lambda/n\approx96\) nm) 픽셀 시뮬레이션의 메시는 실리콘에 맞춰 정한다.
1D FDTD: 쿠랑 수, 메시 밀도와 수치 분산
경계 조건과 광원: PML, 주기, 블로흐, TF/SF
FDTD의 계산 영역은 유한하다. 영역 끝에서 무엇이 일어나는지를 정하는 경계 조건이 결과의 신뢰성을 좌우한다.
- PML(Perfectly Matched Layer): Berenger(1994)가 제안했다. 경계에 인공 흡수층을 두되, 임피던스를 진공과 맞춰(\(\sigma^*/\mu_0=\sigma/\varepsilon_0\)) 모든 입사각·주파수에서 이론상 반사 없이 빨아들인다. 이산화 오차를 줄이려고 전도도를 \(\sigma(d)=\sigma_{\max}(d/L)^m\)(보통 \(m=3\))로 서서히 키운다. 두께 8~16셀, 반사 \(10^{-4}\sim10^{-6}\)이 표준이다. 소멸파나 매우 비스듬한 파동에는 약하므로 구조에서 반 파장 이상 떨어뜨려 둔다.
- 주기 경계(Periodic): 픽셀 배열을 무한 반복으로 보고 한 단위 셀(베이어 2×2, 또는 쿼드 베이어 4×4)만 계산한다. 왼쪽 끝 값을 오른쪽 끝에 그대로 복사한다.
- 블로흐 경계(Bloch): 사입사 평면파는 한 주기마다 위상이 \(k_x\Lambda\)만큼 돈다. \(\mathbf E(x+\Lambda)=\mathbf E(x)e^{ik_x\Lambda}\)를 쓰려면 장을 복소수로 다뤄야 하므로 메모리가 두 배가 된다. 더 중요한 점은 \(k_x\)가 고정된다는 것이다. 광대역 펄스에서는 \(\sin\theta=k_x\lambda/(2\pi)\)이므로 파장마다 입사각이 달라진다. 그래서 CRA 30°의 QE 스펙트럼을 얻으려면 파장마다 따로 돌리거나, Lumerical의 BFAST 같은 광대역 고정각 기법을 써야 한다. RCWA는 파장마다 독립적으로 풀기 때문에 각도가 자연스럽게 고정된다.
- 대칭·반대칭 경계: 수직 입사이고 구조가 거울 대칭이면 영역을 1/2이나 1/4로 줄인다. 편광 방향에 따라 PEC/PMC 거울을 고른다.
광원도 고르는 방법이 여러 가지다. 평면파 광원은 주기·블로흐 경계와 함께 쓰는 기본 광원이다. TF/SF(Total-Field/Scattered-Field)는 직사각형 안에만 입사파를 넣어 산란장을 따로 볼 수 있게 한다. 가우시안 빔은 단일 픽셀 조명이나 PDAF 각도 응답을 볼 때 쓴다. 쌍극자 여러 개를 결맞지 않게 합치는 방법은 렌즈 동공 전체에서 들어오는 빛(부분 결맞음)을 흉내 낸다. 시간 파형은 보통 짧은 가우시안 펄스로 넣는다. 그다음 모니터에서 장을 푸리에 변환하면 한 번의 실행으로 수백 개 파장의 응답을 얻는다. 이것이 FDTD의 가장 큰 장점이다.
장파장(850~940 nm)에서 실리콘의 흡수 깊이는 수십 µm다. 3~6 µm 두께의 실리콘을 아래 PML로 자르면, 실제 소자에서는 배선층(BSI의 앞면) 금속에 반사되어 돌아올 빛이 사라진다. 그러면 NIR QE를 과소평가하고 크로스토크를 과대평가한다. 반대로 실리콘 끝을 금속 거울로 막으면 비현실적인 공진이 생긴다. 실제 BEOL 반사(배선 밀도로 가중한 유효 반사율)를 모델링하거나, 적어도 두 극단을 모두 계산해 범위를 보고해야 한다.
2D FDTD로 보는 픽셀: 마이크로렌즈, 컬러 필터, DTI
이제 지금까지의 요소를 모두 모아 실제 픽셀 단면을 FDTD로 돌려 보자. 아래 시뮬레이터는 피치 0.8 µm 픽셀 세 개(R–G–R 행)의 단면을 16 nm 격자(약 170×250셀)로 계산한다. 구성은 위에서부터 공기, 마이크로렌즈(n≈1.6, 높이 0.5 µm), 평탄화층, 컬러 필터 0.5 µm와 저굴절 그리드, 산화막, 실리콘 2 µm와 산화막 DTI다. 가운데 G 픽셀의 마이크로렌즈만 비추는 기울어진 빔을 넣고, 각 픽셀 실리콘 영역의 흡수 \(\int\sigma|E|^2\,dA\)를 시간 평균해 크로스토크를 잰다. 네 변은 Berenger 분할장 PML이고, 재료는 선택한 파장의 \(n+i\kappa\)(OPT.n)를 전도도로 바꿔 넣었다.
2D FDTD (TMz): 마이크로렌즈 + 컬러 필터 + DTI 픽셀
이 작은 시뮬레이터에도 실무 판단 몇 가지가 들어 있다. 첫째, 16 nm 메시는 450 nm에서 실리콘 안 \(N_\lambda\)가 약 6에 불과하다. 위상 오차가 상당하지만 청색광은 실리콘 0.4 µm 안에서 대부분 흡수되므로 흡수 분포라는 관찰량에는 영향이 작다. 반대로 850 nm에서 실리콘 내부의 공진·간섭 무늬를 정량적으로 보려면 메시가 더 촘촘해야 한다. 둘째, 기울어진 빔을 쓰려고 좌우를 PML로 막았기 때문에 이웃의 이웃에서 되돌아오는 빛은 빠져 있다. 주기 경계 + 블로흐 위상을 쓰는 실제 설정과는 크로스토크의 정의가 조금 다르다. 셋째, 2D는 \(y\) 방향으로 무한히 긴 원통 렌즈와 벽을 가정한다. 집광과 크로스토크의 경향은 맞지만 절대값은 3D와 다르다.
(a) 단일 픽셀 조명: 한 픽셀의 마이크로렌즈에만 빛을 넣고(가우시안 빔 또는 개구), 이웃 PD 흡수를 잰다. 위 시뮬레이터가 이 방식이며, 원인 분석에 직관적이다. (b) 균일 조명 + 색 분리: 주기 경계로 전체를 비추고, 예를 들어 650 nm에서 G 픽셀 PD가 흡수한 양을 R 픽셀 흡수와 비교한다. 측정(단색광 QE 스펙트럼)과 바로 대조할 수 있다. 업계 보고서에서 "크로스토크 x%"라는 숫자를 볼 때는 어느 정의인지 먼저 확인하자.
픽셀 시뮬레이션 실무: 설정, 수렴 점검, 계산 시간
픽셀 광학 시뮬레이션의 결과는 QE 스펙트럼, 각도 응답(CRA 의존성), 크로스토크, 반사율이다. 이 숫자들이 공정 엔지니어와 설계자 사이의 공용어가 된다. 숫자를 믿으려면 다음 작업 흐름을 지키는 것이 좋다.
- 구조 정의: 단위 셀(베이어 2×2, 쿼드 4×4), 레이아웃 기반 마이크로렌즈 형상(측정 AFM 프로파일이 가장 좋다), 층 두께, DTI 깊이·폭·테이퍼, 그리드 재료. 공정 변동 범위(±10% 두께 등)도 함께 정한다.
- 재료 모델: 실리콘, 텅스텐, 알루미늄, 컬러 필터 레지스트의 \(n,\kappa(\lambda)\). 엘립소미터 측정 데이터를 FDTD용 분산 모델로 피팅하고 피팅 오차를 확인한다(특히 Si의 400~450 nm, 금속).
- 경계·광원: 수직 입사는 주기 경계 + 대칭으로 영역을 줄인다. 사입사는 RCWA, 또는 FDTD 블로흐 경계로 파장마다 계산한다. 두 편광(TE/TM)을 평균해 비편광을 만든다.
- 메시: 가장 굴절률이 높은 재료(Si) 안에서 정밀 계산은 \(\Delta x\le\lambda_{\min}/(20n)\)을 기준으로 한다(450 nm, \(n=4.7\)이면 약 5 nm). 컨포멀 메시를 쓰는 광대역 스크리닝은 \(\lambda/(10\sim12\,n)\)(약 8~10 nm)로 시작하고, 수렴 점검으로 정당화한다. 얇은 층(HfO₂ 반사 방지막 50 nm)은 최소 3~5셀이 들어가도록 국부 메시를 쓰고, 경계는 서브픽셀 평균(Conformal Mesh)으로 다룬다.
- 수렴 점검: 메시를 \(\Delta x\to\Delta x/1.5\)로 줄여 QE가 1%p 이내로 바뀌는지, 시뮬레이션 시간을 늘려 장이 충분히 감쇠했는지(auto-shutoff 10⁻⁵), PML 두께를 늘려도 R이 그대로인지 확인한다. RCWA는 M을 늘려 0.5%p 이내인지, 계단 슬랩 수를 늘려 마이크로렌즈 계단 근사가 수렴했는지 확인한다.
- 교차 검증: 평판 구조(ML·DTI 없음)는 TMM과, 대표 구조는 FDTD와 RCWA끼리 비교한다. 마지막으로 측정 QE와 비교해 재료·형상 불확도를 보정한다.
| 시나리오 (2×2 베이어 단위 셀) | 방법 | 격자·차수 | 메모리 | 계산 시간 (대략) |
|---|---|---|---|---|
| 1.0 µm 피치, 스택 5 µm, 400~700 nm 광대역, 수직 | FDTD (CPU 32코어) | Δx = 8 nm, 250×250×650 ≈ 4×10⁷셀 | ~2~4 GB | 30분~1시간 |
| 같은 구조 | FDTD (GPU 1장) | 같음 | ~3 GB | 2~5분 |
| 같은 구조, CRA 0~35° 8각도 × 31파장 | FDTD 블로흐 (파장별) | 같음 | ×2 (복소장) | CPU 수일 / GPU 수 시간 |
| 같은 구조, 같은 스윕 | RCWA (S4 류) | M = 10~15, ML 20슬랩 | ~1 GB | CPU 수 시간 (각도 추가 비용 작음) |
| 0.6 µm 피치 쿼드 베이어 4×4 단위 셀 | FDTD (GPU) | 2.4×2.4×5 µm, Δx = 6 nm ≈ 8×10⁷셀 | ~6~10 GB | 10~20분 / 각도 |
| 3 µm 차량용 픽셀 + 수 µm 렌즈 결합 | FDTD + 광선 추적 연계 | 렌즈는 광선, 픽셀만 FDTD | ~20 GB | 수 시간 |
표의 숫자는 하드웨어와 도구에 따라 몇 배씩 달라질 수 있는 대략값이다. 하지만 스케일링은 확실하다. FDTD의 비용은 \((\text{크기}/\Delta x)^3\times N_t\)이고, \(N_t\propto(\text{크기}/\Delta x)\)이므로 메시를 절반으로 줄이면 비용은 약 16배가 된다. RCWA의 비용은 \(L\times(2N)^3\)이므로 차수 \(M\)을 두 배로 늘리면 2D 주기 구조에서 약 64배다. 아래 계산기로 직접 감을 잡아 보자.
계산 예산 추정기: FDTD 셀 수 vs RCWA 차수
① 정규화: 측정 QE는 패키지 커버 글라스·IR 필터를 포함하는지, 시뮬레이션은 입사 매질이 공기인지 확인한다. ② 조명 조건: 측정은 F/2.8 정도의 원뿔 광(각도 평균)인데 시뮬레이션은 수직 평면파일 수 있다. 각도 응답을 동공에 대해 적분하면 피크가 낮아지고 리플이 줄어든다(5장의 결맞음 이야기). ③ 형상: 마이크로렌즈 실측 높이와 갭, CF 두께의 웨이퍼 내 변동. ④ 재료: CF 레지스트의 κ(λ), 실리콘 표면 패시베이션층. ⑤ 전기적 수집 효율: 광학 시뮬레이션은 "흡수"까지만 계산한다. 표면 재결합과 깊은 곳의 수집 손실은 TCAD(SensorBook 3장)와 결합해야 QE가 된다. 광학 흡수 QE가 측정보다 10~20%p 높게 나오는 것은 흔하며, 대부분 ⑤ 때문이다.
도구 생태계와 선택 기준
직접 구현은 원리를 이해하는 데 좋지만, 실무에서는 검증된 도구를 쓴다. 상용 도구는 재료 데이터베이스, 컨포멀 메시, GPU 가속, 파라미터 스윕과 최적화 기능을 제공한다. 오픈소스는 투명성과 스크립팅 자유도가 장점이다.
| 도구 | 방법 | 형태 | 특징·이미지 센서 관련 용도 |
|---|---|---|---|
| Ansys Lumerical FDTD | FDTD (+RCWA 솔버) | 상용, GUI + Lumerical 스크립트·Python API | CMOS 이미지 센서 예제가 풍부하다. BFAST 광대역 사입사, 컨포멀 메시, GPU 가속을 지원한다. CHARGE(전하 수송)와 연계해 QE를 계산할 수 있다. |
| Ansys HFSS · COMSOL Wave Optics | FEM | 상용 | 곡면·얇은 금속의 정밀 해석, 공진 구조, 다물리(열·응력) 결합 |
| Synopsys RSoft (FullWAVE / DiffractMOD) | FDTD / RCWA | 상용 | 격자·메타표면·회절 광학 설계 툴체인, 광학 설계 도구 CODE V와 연계 |
| Synopsys Sentaurus EMW | FDTD | 상용 (TCAD 내장) | 공정·소자 TCAD와 같은 구조를 공유해 광학 흡수 → 전하 수집 QE를 한 흐름으로 계산 |
| S4 (Stanford) | RCWA (FMM) | 오픈소스, Lua/Python | 2D 주기 다층 구조, Li 인수분해·법선 벡터장 옵션, 학술 벤치마크의 기준 |
| MEEP (MIT) | FDTD | 오픈소스, Python/Scheme | 서브픽셀 평활화로 정확도가 높다. 블로흐 경계와 adjoint 역설계(메타표면 컬러 라우터)를 지원한다. |
| Tidy3D (Flexcompute) | FDTD | 클라우드 GPU, Python | 대규모 3D를 분 단위로 계산하고, 미분 가능 역설계를 지원한다. 사용량 과금이다. |
| torcwa · grcwa · Inkstone | RCWA | 오픈소스, Python (자동미분) | 미분 가능 RCWA로 나노구조 컬러 라우터·AR 구조 최적화 |
도구를 고르는 간단한 기준은 다음과 같다. 주기적이고 층 구조가 뚜렷하며 각도·파장 스윕이 많으면 RCWA를 쓴다(컬러 라우터 최적화, 서브파장 AR, IR 필터 위 격자). 임의 형상, 단일 픽셀 조명, 과도 응답, 광대역 한 번에가 필요하면 FDTD를 쓴다(마이크로렌즈 + DTI 픽셀의 QE·크로스토크). 정밀 검증과 복잡한 곡면에는 FEM을 쓴다. 이 장의 시뮬레이터들은 원리를 보여 주는 장난감 크기지만, 상용 도구도 같은 방정식과 같은 함정(차수, 메시, 경계, 정규화)을 공유한다.
픽셀 내부의 회절은 센서 표면에서도 일어난다. 마이크로렌즈 배열은 반사 격자로 작용해 렌즈 쪽으로 회절 차수를 돌려보내고, 그 빛이 IR 필터·렌즈에서 다시 반사되어 꽃잎 모양의 플레어를 만든다. 16장 미광과 플레어에서는 이 장의 격자 방정식과 반사 회절 효율로 그 패턴을 예측한다.
핵심 정리
- 피치가 파장과 비슷한 픽셀(0.6~1 µm)에서는 광선 추적(\(D\gg\lambda\))과 TMM(옆 방향 균일)의 가정이 깨진다. 주기 \(\Lambda\)는 격자 방정식으로 허용 회절 차수를 정하고, 실리콘 안에서는 진행 차수가 특히 많다.
- TMM은 층, RCWA는 수평 푸리에 + 수직 해석해, FDTD는 시공간 직교 격자, FEM은 비정형 메시로 이산화한다. 일상 업무는 RCWA(주기·스윕)와 FDTD(형상·광대역)가 나눠 맡는다.
- RCWA는 \(\varepsilon(x)\)의 토플리츠 행렬 \(\llbracket\varepsilon\rrbracket\)과 플로케 파수 \(k_{x,m}=k_{x0}-2\pi m/\Lambda\)로 층별 고윳값 문제 \(\Omega^2=K_x^2-\llbracket\varepsilon\rrbracket\)(TE)를 풀고, S 행렬 별곱으로 층을 쌓는다. T 행렬은 감쇠 모드 때문에 발산한다.
- 회절 효율은 \(R_m=|r_m|^2\mathrm{Re}(k_{z,m})/k_{z,0}\)이며, 손실 없는 구조에서 합이 1이고 균일 층에서 TMM과 일치해야 한다(구현 검증).
- 불연속 \(\varepsilon\)의 잘린 급수는 깁스 현상을 보인다. TM 편광에서는 Li의 역규칙 \(\llbracket1/\varepsilon\rrbracket^{-1}\)을 써야 빨리 수렴하며, 같은 정확도에 필요한 차수가 크게 줄어든다.
- FDTD는 Yee 엇갈린 격자와 립프로그로 E, H를 번갈아 전진시킨다. 안정 조건은 \(S=c\Delta t/\Delta x\le1/\sqrt D\)이고, 정확도는 파장당 격자점 \(N_\lambda=\lambda/(n\Delta x)\)이 좌우한다(Si 기준 \(\lambda/(20n)\)).
- PML은 임피던스 정합 흡수층으로 반사 없이 영역을 자른다. 주기 경계는 배열을, 블로흐 경계는 사입사를 표현하지만 \(k_x\)가 고정되어 광대역 펄스에서는 파장마다 각도가 달라진다. RCWA는 각도가 자연스럽게 고정된다.
- 결과를 믿으려면 메시·시간·PML·차수 수렴 점검, TMM·교차 도구 검증, 측정 QE와의 정규화·조명 조건 대조가 필요하다. 광학 흡수는 QE의 상한일 뿐이다.
확인 퀴즈
Q1. 주기 \(\Lambda=0.8\) µm 픽셀 배열에 \(\lambda=0.6\) µm 빛이 수직 입사한다. 공기 쪽으로 반사되는 진행 회절 차수는?
Q2. RCWA에서 층을 잇는 데 전달 행렬(T 행렬) 대신 S 행렬을 쓰는 주된 이유는?
Q3. 이진 격자의 유전율 푸리에 급수를 ±M에서 자를 때, M을 계속 늘리면 계단 모서리의 오버슈트는?
Q4. 1D 이진 격자(홈이 y 방향)의 TM 편광 RCWA에서 Li의 역규칙을 적용해야 하는 성분은?
Q5. 3D FDTD에서 \(\Delta x=\Delta y=\Delta z=5\) nm일 때 허용되는 최대 시간 간격은 대략?
Q6. 450 nm 빛에서 실리콘(n ≈ 4.7) 안을 \(\lambda/(20n)\) 규칙으로 메시하려면 Δx는?
Q7. FDTD에서 블로흐 경계와 광대역 펄스로 CRA 30° 응답을 한 번에 계산했다. 무엇이 잘못될 수 있나?
Q8. 손실 없는 격자에 대해 직접 짠 RCWA 결과가 \(\sum R+\sum T=1.04\)로 나왔다. 가장 먼저 의심할 것은?
Q9. 0.7 µm 피치 2×2 베이어 셀을 FDTD로 돌리고 있다. 메시를 10 nm에서 5 nm로 줄이면 계산 시간은 대략 몇 배가 되나?