Najstarsze znane szmaragdy mają wiek 3 miliardów lat i są to kryształy krzemianowe, które ukształtowały się w skałach magmowych, metamorficznych oraz osadowych. Znalezienie tego kamienia jest jednak rzadkością, ponieważ beryl, pierwiastek składający szmaragd, występuje w skorupie ziemskiej sporadycznie i jest jeszcze rzadsze jego występowanie razem z wanadem lub chromem. Mimo tych wyjątkowo niekorzystnych warunków, szmaragdy pojawiają się na różnych obszarach Ziemi w niewielkich ilościach.
Większość szmaragdów znajduje się w Kolumbii, skąd pochodzi od 80% do 90% globalnej produkcji tego kamienia. Tam znajdują się słynne szmaragdy „trapiche”, które są niezwykle rzadkie i mają charakterystyczną gwiazdkową strukturę powstałą przez zanieczyszczenia. Inne źródła szmaragdów to Zambia i Etiopia, ale kamienie te można znaleźć praktycznie na każdym kontynencie, począwszy od Australii, a kończąc na Stanach Zjednoczonych i Kanadzie. W Polsce też występują szmaragdy, choć są one niskiej jakości i wykorzystuje się je głównie jako ozdobne kamienie jubilerskie. Kamienie te są bardzo rzadko spotykane w depozytach aluwialnych, ponieważ są one zbyt delikatne, aby przetrwać „podróż” z głębi Ziemi na powierzchnię w nienaruszonym stanie.
Sztuczne szmaragdy zostały wyprodukowane po raz pierwszy w 1935 roku, co nastąpiło prawie dwadzieścia lat po wyprodukowaniu pierwszych syntetycznych rubinów i szafirów. Współczesna technologia pozwoliła na masową produkcję tych sztucznych kamieni, które są łatwo identyfikowalne dzięki swojej idealnej strukturze i czystości. Choć ich cena jest znacznie niższa, dla większości osób różnica ta jest niezauważalna, a satysfakcja estetyczna równie wielka!