우분투 서버 메일 서버 설치 안내서

소개

이 안내서는 우분투 서버에 메일 서버를 설치하고 구성하는 전체 과정을 단계별로 설명합니다. 초보자도 쉽게 따라할 수 있도록 상세한 명령어와 설정 방법을 제공합니다.

메일 서버는 이메일을 송수신하고 저장하는 시스템으로, 개인 또는 기업의 이메일 서비스를 직접 운영할 수 있게 해줍니다. 이 안내서에서는 Postfix와 Dovecot을 사용하여 안정적이고 보안이 강화된 메일 서버를 구축하는 방법을 배우게 됩니다.

1. 메일 서버 개요

1.1 메일 서버란?

메일 서버는 이메일을 송수신하고 저장하는 시스템입니다. 메일 서버는 크게 두 가지 주요 구성 요소로 이루어집니다:

• MTA(Mail Transfer Agent): 메일을 송수신하는 역할
• MDA(Mail Delivery Agent): 수신된 메일을 사용자 메일함에 전달하는 역할

1.2 주요 메일 서버 소프트웨어

1.3 시스템 요구사항

2. 서버 환경 준비

2.1 시스템 업데이트

우분투 서버를 최신 상태로 유지하는 것은 보안과 안정성을 위해 매우 중요합니다:

# 패키지 목록 갱신
sudo apt-get update

# 설치된 패키지 업그레이드
sudo apt-get upgrade -y

2.2 기본 패키지 설치

메일 서버 운영에 필요한 기본 패키지를 설치합니다:

# 기본 유틸리티 설치
sudo apt-get install -y vim curl wget net-tools dnsutils

2.3 호스트네임 및 FQDN 설정

메일 서버는 올바른 호스트네임과 FQDN(Fully Qualified Domain Name) 설정이 중요합니다:

# 호스트네임 설정
sudo nano /etc/hostname

파일 내용을 다음과 같이 설정합니다(예시):

mail.aaa.org

변경사항을 적용합니다:

sudo hostname -F /etc/hostname

/etc/hosts 파일을 편집하여 IP 주소와 호스트네임을 매핑합니다:

sudo nano /etc/hosts

파일 내용을 다음과 같이 설정합니다(예시):

127.0.0.1       localhost
127.0.1.1       mail.aaa.org mail

# 서버의 실제 IP 주소
192.168.1.100   mail.aaa.org mail

2.4 시스템 시간 설정

메일 서버는 정확한 시간 설정이 중요합니다:

# 타임존 설정
sudo dpkg-reconfigure tzdata

# NTP 설치
sudo apt-get install -y ntp

# NTP 서비스 시작 및 부팅 시 자동 실행 설정
sudo systemctl start ntp
sudo systemctl enable ntp

2.5 방화벽 설정

메일 서버는 여러 포트를 사용하므로 방화벽 설정이 필요합니다:

# UFW 설치
sudo apt-get install -y ufw

# SSH 접속을 위한 포트 허용 (기본 설정)
sudo ufw allow ssh

# 메일 서버 관련 포트 허용
sudo ufw allow 25/tcp    # SMTP
sudo ufw allow 465/tcp   # SMTPS (SSL)
sudo ufw allow 587/tcp   # Submission (TLS)
sudo ufw allow 110/tcp   # POP3
sudo ufw allow 995/tcp   # POP3S (SSL)
sudo ufw allow 143/tcp   # IMAP
sudo ufw allow 993/tcp   # IMAPS (SSL)

# 방화벽 활성화
sudo ufw enable

# 방화벽 상태 확인
sudo ufw status verbose

3. 메일 서버 소프트웨어 설치

3.1 Postfix 설치

Postfix는 메일 전송 에이전트(MTA)로, 이메일을 송수신하는 역할을 합니다:

# Postfix 설치
sudo apt-get install -y postfix

설치 중 다음과 같은 설정을 선택합니다:

• 구성 유형: "인터넷 사이트"
• 시스템 메일 이름: "mail.aaa.org" (실제 도메인으로 변경)

3.2 Dovecot 설치

Dovecot은 POP3/IMAP 서버로, 사용자가 이메일을 확인할 수 있게 합니다:

# Dovecot 설치
sudo apt-get install -y dovecot-core dovecot-imapd dovecot-pop3d dovecot-lmtpd

3.3 기타 유용한 패키지 설치

# 메일 유틸리티 설치
sudo apt-get install -y mailutils

# 스팸 필터 설치 (선택 사항)
sudo apt-get install -y spamassassin spamc

# DKIM 설치 (선택 사항)
sudo apt-get install -y opendkim opendkim-tools

4. 도메인 설정

4.1 Postfix 기본 설정

Postfix 구성 파일을 편집합니다:

sudo nano /etc/postfix/main.cf

다음 설정을 추가하거나 수정합니다:

# 기본 설정
myhostname = mail.aaa.org
mydomain = aaa.org
myorigin = $mydomain
mydestination = $myhostname, localhost.$mydomain, localhost, $mydomain
mynetworks = 127.0.0.0/8 [::ffff:127.0.0.0]/104 [::1]/128

# 네트워크 설정
inet_interfaces = all
inet_protocols = ipv4

# 메일박스 설정
home_mailbox = Maildir/
mailbox_command =

4.2 Dovecot 기본 설정

Dovecot 메일 형식 설정:

sudo nano /etc/dovecot/conf.d/10-mail.conf

다음 설정을 찾아 수정합니다:

mail_location = maildir:~/Maildir

Dovecot 인증 설정:

sudo nano /etc/dovecot/conf.d/10-auth.conf

다음 설정을 찾아 수정합니다:

disable_plaintext_auth = no
auth_mechanisms = plain login

Dovecot 프로토콜 설정:

sudo nano /etc/dovecot/conf.d/10-master.conf

다음 설정을 찾아 수정합니다:

service auth {
  # Postfix SMTP 인증
  unix_listener /var/spool/postfix/private/auth {
    mode = 0660
    user = postfix
    group = postfix
  }
}

4.3 서비스 재시작

설정을 적용하기 위해 서비스를 재시작합니다:

sudo systemctl restart postfix
sudo systemctl restart dovecot

5. DNS 레코드 설정

5.1 DNS 레코드 개요

메일 서버가 제대로 작동하려면 다음과 같은 DNS 레코드가 올바르게 구성되어야 합니다:

• MX 레코드: 이메일을 수신할 서버를 지정
• A 레코드: 메일 서버의 IP 주소를 지정
• SPF 레코드: 이메일을 보낼 수 있는 서버를 지정
• DKIM 레코드: 이메일 인증을 위한 암호화 키
• DMARC 레코드: 이메일 인증 정책을 지정

5.2 Cloudflare에서 DNS 레코드 설정

5.2.1 메일 서버용 A 레코드 설정

1. Cloudflare 대시보드에 로그인합니다.
2. aaa.org 도메인을 선택합니다.
3. "DNS" 탭을 클릭합니다.
4. "레코드 추가" 버튼을 클릭합니다.
5. 다음과 같이 설정합니다:
   • 유형: A
   • 이름: mail (메일 서브도메인 생성)
   • IPv4 주소: 귀하의 서버 IP 주소 입력
   • 프록시 상태: DNS만 (회색 구름 아이콘)
   • TTL: 자동

5.2.2 MX 레코드 설정

1. "레코드 추가" 버튼을 클릭합니다.
2. 다음과 같이 설정합니다:
   • 유형: MX
   • 이름: @ (루트 도메인을 의미)
   • 메일 서버: mail.aaa.org (앞서 생성한 A 레코드)
   • 우선 순위: 10 (낮은 숫자가 높은 우선순위)
   • TTL: 자동

5.2.3 SPF 레코드 설정

1. "레코드 추가" 버튼을 클릭합니다.
2. 다음과 같이 설정합니다:
   • 유형: TXT
   • 이름: @
   • 콘텐츠: v=spf1 ip4:귀하의서버IP a:mail.aaa.org ~all
   • TTL: 자동

5.2.4 DKIM 레코드 설정

1. 서버에서 DKIM 키를 생성합니다:

# OpenDKIM 패키지 설치
sudo apt-get install -y opendkim opendkim-tools

# 키 디렉토리 생성
sudo mkdir -p /etc/opendkim/keys/aaa.org

# 키 생성
sudo opendkim-genkey -D /etc/opendkim/keys/aaa.org/ -d aaa.org -s default

# 권한 설정
sudo chown -R opendkim:opendkim /etc/opendkim/keys

2. 생성된 DKIM 공개 키를 확인합니다:

sudo cat /etc/opendkim/keys/aaa.org/default.txt

3. Cloudflare에서 DKIM 레코드를 추가합니다:

• 유형: TXT
• 이름: default._domainkey
• 콘텐츠: 위에서 확인한 DKIM 공개 키 값 (따옴표 포함)
• TTL: 자동

5.2.5 DMARC 레코드 설정

1. "레코드 추가" 버튼을 클릭합니다.
2. 다음과 같이 설정합니다:
   • 유형: TXT
   • 이름: _dmarc
   • 콘텐츠: v=DMARC1; p=none; rua=mailto:admin@aaa.org; ruf=mailto:admin@aaa.org; sp=none; ri=86400
   • TTL: 자동

5.3 DNS 레코드 확인

설정한 DNS 레코드가 올바르게 적용되었는지 확인합니다:

# MX 레코드 확인
dig MX aaa.org +short

# A 레코드 확인
dig A mail.aaa.org +short

# SPF 레코드 확인
dig TXT aaa.org +short

# DKIM 레코드 확인
dig TXT default._domainkey.aaa.org +short

# DMARC 레코드 확인
dig TXT _dmarc.aaa.org +short

6. 보안 및 인증 설정

6.1 SSL/TLS 인증서 설정

Let's Encrypt 인증서를 사용하여 메일 서버의 보안을 강화합니다:

# Certbot 설치
sudo apt-get install -y certbot

# 인증서 발급
sudo certbot certonly --standalone --agree-tos --preferred-challenges http \
  --email admin@aaa.org -d mail.aaa.org

6.2 Postfix에 SSL/TLS 인증서 적용

Postfix 구성 파일을 수정하여 발급받은 인증서를 적용합니다:

sudo nano /etc/postfix/main.cf

다음 설정을 추가하거나 수정합니다:

# TLS 설정
smtpd_use_tls = yes
smtpd_tls_auth_only = yes
smtpd_tls_cert_file = /etc/letsencrypt/live/mail.aaa.org/fullchain.pem
smtpd_tls_key_file = /etc/letsencrypt/live/mail.aaa.org/privkey.pem

# 보안 강화 설정
smtpd_tls_mandatory_protocols = !SSLv2, !SSLv3
smtp_tls_mandatory_protocols = !SSLv2, !SSLv3
smtpd_tls_protocols = !SSLv2, !SSLv3
smtp_tls_protocols = !SSLv2, !SSLv3

# 암호화 알고리즘 설정
tls_preempt_cipherlist = yes
smtpd_tls_mandatory_ciphers = high
smtpd_tls_ciphers = high
smtpd_tls_exclude_ciphers = aNULL, DES, 3DES, MD5, DES+MD5, RC4

6.3 Dovecot에 SSL/TLS 인증서 적용

Dovecot 구성 파일을 수정하여 발급받은 인증서를 적용합니다:

sudo nano /etc/dovecot/conf.d/10-ssl.conf

다음 설정을 수정합니다:

# SSL/TLS 지원 활성화
ssl = required

# 인증서 및 키 파일 경로
ssl_cert = 

sudo nano /etc/postfix/main.cf

# SMTP 인증 설정
smtpd_sasl_type = dovecot
smtpd_sasl_path = private/auth
smtpd_sasl_auth_enable = yes
smtpd_sasl_security_options = noanonymous
smtpd_sasl_local_domain = $myhostname

# 인증된 사용자만 이메일 발송 허용
smtpd_recipient_restrictions =
    permit_mynetworks,
    permit_sasl_authenticated,
    reject_unauth_destination