İlk filmin elde ettiği başarı sonrasında, aynı kadroyla karşımıza çıkan Siyah Giyen Adamlar 2, 'cool' kahramanlarımız Kay ve Jay'in dört yıl aradan sonra yeniden maceralarına döndüğü bir hikaye sunuyor. Bu dört yıl zarfında pek çok şey değişmiş; ilk film, Kay'in sevdiği kadına kavuşup normal bir yaşam sürmesi için ortağı Jay tarafından hafızasının silinmesiyle sona ermişti. Bu yeni film, Jay'in ideal ortağını bir türlü bulamadığını ve Siyah Giyen Adamlar örgütünde çalışmaya devam ettiğini öğrenmemizle başlıyor. Jay, sıradan bir cinayet soruşturması yürütürken, Serleena adında, güzel bir kadın kılığına girmiş bir varlığın dünyaya yerleştirmeye çalıştığı bir cihaz aracılığıyla birçok gezegene hükmetme peşinde olduğunu keşfeder.
Serleena'nın bu tehlikeli planını durdurabilecek bilginin Kay'in silinmiş hafızasında gizli olduğunu öğrenen Jay, eski ortağını yeniden örgüte kazandırmak ve ona kaybolan hafızasını geri yüklemek zorundadır. Bu süreçte, Jay'in Kay ile olan ilişkisini yeniden inşa etmesi ve geçmişteki olayları hatırlatması gerekecektir. Böylece, ikili, Serleena'nın planlarını boşa çıkarmak için birlikte hareket etme fırsatı bulacaklardır.
