Putting secrets in Git with Sealed Secrets, and where it stops
How Sealed Secrets works, what gets missed in key backup and renewal, and the point where moving to External Secrets Operator makes sense.
Talos Mühendislik
Platform Ekibi
English translation of this article is in progress — content shown below is in Turkish.
GitOps'a geçen ekiplerin çoğu ilk haftada aynı yere takılır. Deployment, service, ingress repoda duruyor, ama uygulamanın veritabanı parolası hâlâ birinin kubectl create secret ile cluster'a elle girdiği bir değer. Cluster'ı baştan kurmanız gerektiği gün o parolanın kimde olduğunu bulmak ayrı bir iş olur. Secret manifest'ini repoya koymak da çare olmuyor, çünkü içindeki değer base64 ile kodlanmış durumda ve base64 şifreleme sayılmaz.
Sealed Secrets bu boşluğu asimetrik şifrelemeyle kapatıyor. İşletirken bilmeniz gereken birkaç ayrıntı var ve çoğu anahtarın kendisiyle ilgili.
Çalışma şekli
Controller cluster'da ilk açıldığında bir anahtar çifti üretir ve private key'i kendi namespace'inde bir secret olarak saklar. Siz kubeseal ile sıradan bir Secret manifest'ini controller'ın public sertifikasıyla şifreler, ortaya çıkan SealedSecret nesnesini commit edersiniz. Controller bu nesneyi görünce açar ve aynı adla normal bir Secret üretir. Repoyu okuyan biri şifreli veriden başka bir şey görmez.
kubectl create secret generic db-credentials \
--namespace billing \
--from-literal=password='degistirin' \
--dry-run=client -o yaml \
| kubeseal --format yaml > db-credentials-sealed.yaml
kubeseal varsayılan olarak kube-system namespace'inde sealed-secrets-controller adlı servisi arar. Helm chart'ıyla kurduysanız ad büyük ihtimalle farklıdır, o zaman --controller-name ve --controller-namespace vermeniz gerekir. Geliştiricilerin cluster'a erişimi yoksa sertifikayı bir kez kubeseal --fetch-cert > pub-cert.pem ile alıp repoya koyabilir, şifrelemeyi --cert pub-cert.pem ile cluster'a hiç dokunmadan yaptırabilirsiniz. Public sertifikanın açıkta durmasında sakınca yok.
İlk denemede insanı şaşırtan şey scope'tur. Varsayılan strict modda secret'ın adı ve namespace'i şifrelemeye dahil edilir. Yani billing için ürettiğiniz SealedSecret'ı kopyalayıp staging namespace'ine koyarsanız controller onu açmaz. Bu bilerek böyle: bir namespace'e yazma yetkisi olan kişi, başka bir namespace'in şifreli secret'ını kendi tarafına taşıyıp okuyamasın diye. Gerçekten ihtiyacınız varsa --scope namespace-wide ya da --scope cluster-wide ile gevşetebilirsiniz, ama gevşettiğiniz her adım o korumadan bir parça götürür.
Anahtar yedeği ve yenileme
Bütün düzenin tek zayıf noktası controller'ın private key'i. Cluster'ı kaybeder ve anahtarı yedeklememiş olursanız Git'teki SealedSecret'ların hiçbiri açılmaz, bütün parolaları yeniden üretip yeniden şifrelemeniz gerekir. Çalışan cluster'daki Secret'lar yerinde durduğu sürece bunu fark etmezsiniz, sorun felaket kurtarma gününde çıkar. Yedeği almak tek komut:
kubectl get secret -n kube-system \
-l sealedsecrets.bitnami.com/sealed-secrets-key \
-o yaml > sealed-secrets-keys.yaml
Controller'ı başka bir namespace'e kurduysanız komutta onu yazın. Bu dosya cluster'daki her parolanın anahtarı olduğu için ona göre saklanmalı.
Controller varsayılan ayarla 30 günde bir yeni anahtar üretir. Eski anahtarlar silinmez, eski SealedSecret'lar açılmaya devam eder, yeni şifrelemeler en yeni anahtarla yapılır. Bunun iki sonucu var. Birincisi, kurulum günü aldığınız yedek sonradan üretilen anahtarları içermez, yani yedeği periyodik almanız gerekir. İkincisi, anahtarın yenilenmesi parolalarınızın yenilenmesi anlamına gelmez. Bir private key sızdıysa o anahtarla şifrelenmiş her değeri açılmış kabul edip parolaların kendisini değiştirmek zorundasınız. kubeseal --re-encrypt mevcut nesneleri en yeni anahtara taşır, ama Git geçmişindeki eski sürümler orada kalır.
Bir de şunu akılda tutmak lazım: Sealed Secrets yalnızca Git'teki hâli korur. Controller'ın ürettiği Secret cluster içinde her zamanki gibi durur. O namespace'te secret okuma yetkisi olan herkes değeri görür, etcd'de şifreli tutulup tutulmayacağı da sizin API server ayarınıza bağlıdır. RBAC'i ve encryption at rest'i bu araç sizin yerinize çözmez.
External Secrets Operator'a geçmenin anlamlı olduğu nokta
Cluster sayısı arttıkça Sealed Secrets yorucu hâle gelir, çünkü her cluster'ın anahtarı ayrıdır ve aynı parolayı her biri için ayrı ayrı şifrelemeniz gerekir. Aynı anahtarı bütün cluster'lara dağıtarak bunu aşabilirsiniz, o zaman da tek bir anahtarın sızması hepsini birden etkiler.
External Secrets Operator (ESO) soruna başka yerden bakar. Parola Vault, AWS Secrets Manager ya da Azure Key Vault gibi bir dış kaynakta durur, Git'e yalnızca "şu yoldaki şu alanı getir" diyen bir referans girer:
apiVersion: external-secrets.io/v1
kind: ExternalSecret
metadata:
name: db-credentials
namespace: billing
spec:
refreshInterval: 1h
secretStoreRef:
name: vault-backend
kind: ClusterSecretStore
target:
name: db-credentials
data:
- secretKey: password
remoteRef:
key: billing/db
property: password
Eski ESO sürümlerinde apiVersion değeri external-secrets.io/v1beta1 olur, kurulu sürümünüze bakın. Kazancınız şu: parola tek yerde değişir, bütün cluster'lar refreshInterval dolunca yeni değeri çeker, kimin neye eriştiği dış kaynağın kendi denetim kaydında görünür. Bedeli ise o dış kaynağı işletmek. Vault'u yedekli kurmak ve unseal sürecini yönetmek başlı başına bir iştir. ESO'nun store'a bağlanabilmesi için de bir kimliğe ihtiyacı var. Kubernetes auth ya da bulut tarafında workload identity bunu büyük ölçüde hafifletir, statik token kullanırsanız "ilk secret'ı nereye koyacağım" sorusu kapıdan çıkıp pencereden geri girer.
Tek cluster'ınız ve Vault işletecek kimseniz yoksa Sealed Secrets bence fazlasıyla yeterli. Birkaç cluster'a yayıldıysanız ya da kurumda zaten çalışan bir Vault varsa ESO'ya geçmek daha az iş çıkarır. İkisini aynı cluster'da yan yana kullanmanın da sakıncası yok, yeter ki hangi parolanın hangi yoldan geldiği bir yerde yazılı olsun.