Tự Dựng Mail Server với Mailcow trên Docker: SMTP, IMAP, Anti-Spam và Webmail cho Domain Riêng

HomeLab tutorial - IT technology blog
HomeLab tutorial - IT technology blog

Vì Sao Tôi Dừng Trả Tiền cho Google Workspace

Chạy email cho domain cá nhân trước đây chỉ có một lựa chọn: Google Workspace, $6/người dùng/tháng, không có điểm dừng. Với vài domain cá nhân và một HomeLab tự quản lý, chi phí tích lũy khá nhanh — chưa kể chuyện dữ liệu thuộc về ai chưa bao giờ khiến tôi yên tâm.

Sau một cuối tuần mày mò với Mailcow, tôi không còn nhìn lại nữa. Nó xử lý SMTP, IMAP, anti-spam (rspamd), DKIM, DMARC, SPF và đi kèm giao diện Webmail đầy đủ (SOGo). Tất cả chạy dưới dạng Docker container, nên tích hợp rất gọn vào HomeLab đã có sẵn Portainer và một loạt dịch vụ self-hosted khác.

Tự vận hành mail stack nghe có vẻ đáng sợ. Email vốn có tiếng là khó tự host. Nhưng Mailcow thay đổi cục diện — nó gói Postfix, Dovecot, rspamd và cả tá dịch vụ hỗ trợ vào một file Compose duy nhất, lo hết phần phức tạp cho bạn.

Những thứ cần chuẩn bị:

  • VPS hoặc máy chủ bare-metal với tối thiểu 2 vCPU / 4 GB RAM (yêu cầu tối thiểu của Mailcow; 2 GB về mặt kỹ thuật chạy được nhưng swap sẽ bị vắt kiệt)
  • Một domain bạn toàn quyền kiểm soát (cần thiết lập DNS records)
  • Docker + Docker Compose đã cài đặt
  • Các cổng 25, 80, 110, 143, 443, 465, 587, 993, 995 đã mở trong firewall

Cổng 25 là cái đau đầu nhất. Hầu hết ISP gia đình và nhiều nhà cung cấp VPS — bao gồm Hetzner theo mặc định — chặn cổng 25 chiều ra để hạn chế spam. Kiểm tra điều này trước khi bắt đầu. Nếu VPS của bạn chặn, hãy mở ticket hỗ trợ hoặc đổi nhà cung cấp. Không có cách nào vượt qua mà không bị liệt vào danh sách đen.

Cài Đặt

Cấu Hình DNS Trước — Luôn Luôn Vậy

Động vào DNS trước khi động vào Docker. Mailcow cần một hostname có PTR record hợp lệ (reverse DNS). Đặt PTR của VPS trỏ về mail hostname của bạn, ví dụ mail.yourdomain.com. Sau đó thêm các record này trong DNS panel:

# Thay yourdomain.com và IP server của bạn
mail.yourdomain.com.   A     203.0.113.10
yourdomain.com.        MX    10  mail.yourdomain.com.
yourdomain.com.        TXT   "v=spf1 mx ~all"
_dmarc.yourdomain.com. TXT   "v=DMARC1; p=quarantine; rua=mailto:[email protected]"

DKIM key được tạo sau khi Mailcow khởi động — bạn sẽ thêm TXT record đó ở bước sau.

Clone và Cấu Hình Mailcow

git clone https://github.com/mailcow/mailcow-dockerized
cd mailcow-dockerized
./generate_config.sh

Script hỏi mail hostname (mail.yourdomain.com) và múi giờ của bạn. Nó tạo ra file mailcow.conf. Mở file này và chỉnh một vài thông số mặc định trước khi khởi động lần đầu:

# mailcow.conf — các thiết lập quan trọng cần xem lại
MAILCOW_HOSTNAME=mail.yourdomain.com
TZ=Asia/Tokyo

# Bỏ ClamAV nếu RAM thiếu (tiết kiệm ~700 MB)
SKIP_CLAMD=y

# Tùy chọn: bỏ qua Acme/Let's Encrypt nếu bạn tự quản lý chứng chỉ
# SKIP_LETS_ENCRYPT=y

ClamAV khá hay nhưng nặng. Trên máy chủ 4 GB tôi để nó tắt và dựa vào rspamd là chủ yếu — tích hợp ClamD của rspamd luôn có thể bật lại sau nếu bạn nâng RAM.

Khởi Động Stack

docker compose pull
docker compose up -d

Lần pull đầu mất 5–10 phút với đường truyền tốt. Mailcow là một stack khá nặng — Postfix, Dovecot, rspamd, Redis, MySQL, SOGo, nginx và nhiều hơn nữa. Theo dõi log khi nó khởi tạo:

docker compose logs -f --tail=50

Sau khi nginx chạy, truy cập https://mail.yourdomain.com. Thông tin đăng nhập admin mặc định là admin / moohoo. Đổi ngay lập tức — trước mọi thứ khác.

Cấu Hình

Thêm Domain và Hộp Thư Đầu Tiên

Ba bước trong giao diện admin Mailcow:

  1. Configuration → Mail Setup → Domains → Add domain — nhập yourdomain.com
  2. Mailboxes → Add mailbox — tạo [email protected] với mật khẩu mạnh
  3. Tùy chọn thêm alias: postmaster@, abuse@ và info@ trỏ về hộp thư chính

DKIM Key — Bước Người Ta Hay Quên Nhất

Sau khi thêm domain, Mailcow tự động tạo cặp khóa DKIM. Lấy public key:

Configuration → Mail Setup → Domains → DKIM — click vào domain và copy giá trị TXT record.

Thêm vào DNS:

dkim._domainkey.yourdomain.com. TXT "v=DKIM1; k=rsa; p=MIIBIjANBgkqh..."

DNS propagation mất đến một tiếng. Sau khi ổn định, mọi email gửi đi đều được ký — và chữ ký đó là thứ thuyết phục Gmail, Outlook và những nơi khác tin tưởng server của bạn thay vì vứt mail vào thùng rác.

Tinh Chỉnh Anti-Spam rspamd

Giao diện rspamd của Mailcow nằm tại https://mail.yourdomain.com/rspamd. Các giá trị mặc định khá ổn, nhưng server mới nên siết ngưỡng lại một chút:

# Vào bên trong container rspamd
docker exec -it mailcowdockerized-rspamd-mailcow-1 sh

# Xem điểm action hiện tại
cat /etc/rspamd/local.d/actions.conf

Trên server mới, tôi hạ điểm reject từ 15 xuống 12 và đặt greylist ở 6. Điều này từ chối rác rõ ràng hơn trong khi giữ lại những thư ở ranh giới để xem xét. Tạo file override local thay vì chỉnh thẳng vào file mặc định:

# /data/conf/rspamd/local.d/actions.conf
reject = 12;
greylist = 6;
add_header = 4;

Restart rspamd để áp dụng thay đổi:

docker compose restart rspamd-mailcow

Kết Nối Mail Client

Cài đặt IMAP và SMTP cho Thunderbird, Apple Mail hoặc bất kỳ client nào:

Thư đến (IMAP):
  Server:    mail.yourdomain.com
  Cổng:      993
  Bảo mật:   SSL/TLS
  Tài khoản: [email protected]

Thư đi (SMTP):
  Server:    mail.yourdomain.com
  Cổng:      587
  Bảo mật:   STARTTLS
  Tài khoản: [email protected]

SOGo Webmail nằm tại https://mail.yourdomain.com/SOGo — lịch và danh bạ được tích hợp sẵn, khiến nó thay thế giao diện Gmail tốt hơn bạn nghĩ.

Kiểm Tra và Giám Sát

Kiểm Tra Độ Tin Cậy Mail

Sau khi DNS propagate xong, chạy kiểm tra khả năng giao thư. Gửi một thư thử nghiệm đến mail-tester.com — nó chấm điểm SPF, DKIM, DMARC, blacklist và HTML hygiene trong một lần. Đạt 10/10 trước khi gửi mail thật.

Xác nhận PTR record phân giải đúng:

dig -x 203.0.113.10 +short
# Kết quả trả về phải là: mail.yourdomain.com.

Cũng cần xác minh DKIM có thực sự ký mail gửi đi không. Gửi thứ gì đó đến Gmail, mở header của thư gốc và tìm dkim=pass trong dòng Authentication-Results.

Theo Dõi Log và Hàng Đợi

Giao diện Mailcow có trình xem log tích hợp tại Configuration → Logs. Qua CLI:

# Hàng đợi thư Postfix
docker exec -it mailcowdockerized-postfix-mailcow-1 mailq

# Flush hàng đợi bị kẹt thủ công
docker exec -it mailcowdockerized-postfix-mailcow-1 postqueue -f

# Log xác thực Dovecot theo thời gian thực
docker compose logs -f dovecot-mailcow | grep -i auth

# Kết quả scan của rspamd
docker compose logs -f rspamd-mailcow | tail -20

Cập Nhật Mailcow

Mailcow đi kèm script cập nhật. Chạy hàng tháng:

cd mailcow-dockerized
git fetch origin
git checkout origin/master
./update.sh

Script pull image mới, chạy migration và restart container. Hộp thư, cài đặt và chứng chỉ đều giữ nguyên.

Chiến Lược Backup

Dữ liệu mail nằm trong Docker volume. Backup tối thiểu hàng ngày:

# Các volume cần backup
/var/lib/docker/volumes/mailcowdockerized_vmail-vol-1    # Lưu trữ mail
/var/lib/docker/volumes/mailcowdockerized_mysql-vol-1    # Cơ sở dữ liệu
./mailcow.conf                                           # File cấu hình
./data/conf/                                             # Cấu hình tùy chỉnh

Rsync lên server từ xa hoặc S3-compatible bucket xử lý việc này rất tốt. Để dump MySQL nhất quán, source config để lấy mật khẩu DB, rồi dump trước khi rsync volume:

source mailcow.conf
docker exec mailcowdockerized-mysql-mailcow-1 \
  mysqldump -u root -p"${DBROOT}" mailcow > /backup/mailcow-$(date +%F).sql

Giữ ít nhất 7 ngày dump. Phục hồi từ database hỏng mà không có backup là một buổi chiều tệ hại.

Sau Khi Đã Chạy Ổn Định

  • Bật DNSSEC trên nhà đăng ký domain — tăng cường chuỗi xác thực DKIM từ đầu đến cuối
  • Thiết lập 2FA trong admin Mailcow và SOGo — cả hai đều hỗ trợ TOTP natively
  • Blacklist / whitelist người gửi cố định trong giao diện rspamd thay vì train từng thư một
  • Đặt quota hộp thư — mail tích lũy nhanh hơn bạn nghĩ; 10 GB mỗi hộp thư là điểm khởi đầu hợp lý

Tự vận hành mail server tốn nhiều công hơn đăng ký SaaS. Không có gì phải tranh luận ở đây. Nhưng sau vài tuần đầu, phần overhead dần trở thành tiếng ồn nền. Thứ bạn giữ lại là khả năng quan sát — toàn quyền truy cập log, kiểm soát hàng đợi, tinh chỉnh spam, không tốn phí theo đầu người — điều mà không nhà cung cấp hosted nào sẽ bao giờ trao cho bạn.

Share: