Asas bangunan baru ini dibentuk oleh reruntuhan gereja Romanesque akhir zaman St. Columba, yang pada suatu ketika menjadi pusat paroki terbesar di Cologne abad pertengahan. Pada tahun 1945, ia hancur semasa serangan udara hampir ke tanah, hanya patung batu kapur Our Lady di mezbah kuil yang masih utuh, yang mana Gottfried Boehm kemudiannya membangun kapel khas pada tahun 1950. Pada masa yang sama, runtuhan gereja diubah menjadi semacam alun-alun peringatan. Pada awal tahun 1970-an, di wilayahnya, ahli arkeologi menemui sisa-sisa bangunan dari era keberadaan Cologne yang berbeza - Rom kuno, abad pertengahan awal, Romanesque dan Gothic.
Objek seperti warisan budaya dan sejarah itu sendiri sukar dilihat dan dipelihara, tetapi ketika Museum Keuskupan Cologne memutuskan untuk membangun di tempatnya - di dalam dan di sekitar reruntuhan yang ada - sebuah bangunan baru untuk menampilkan koleksi agama yang luas seni dari zaman kuno hingga ke hari ini, keadaan menjadi semakin rumit. Keputusan untuk memperluas muzium dibuat pada tahun 1974, tetapi reruntuhan Gereja St. Columba dipilih sebagai lokasi barunya hanya pada awal 1990-an. Pada tahun 1997, pertandingan seni bina diadakan, di mana projek arkitek Switzerland yang terkenal Peter Zumthor menang. Juri mencatat keterampilan luar biasa yang dengannya Zumthor dapat menggabungkan serpihan 2000 tahun sejarah seni bina Cologne (dari asas-asas bangunan Rom kuno hingga kapel "Madonna in the Ruins" Boehm pada tahun 1950) menjadi satu kumpulan, yang lebih daripada sekadar jumlah bahagiannya.
Pemulihan dan pemeliharaan tinggalan seni bina mengambil masa beberapa tahun, dan pembinaan Muzium Columbus sendiri baru bermula pada tahun 2003.
Bangunan ini menyerupai garis latin L dan dikerahkan pada sudut kanan ke jalan. Dindingnya, dilapisi dengan batu bata abu-abu muda yang rata dan lebar dengan lapisan mortar pengikat yang tebal, sama sekali tidak kelihatan, berkat tekstur permukaan yang halus, hasil kerja batu bata. Sisa-sisa tembok gereja dibangun di dalamnya di permukaan tanah, dan di atasnya terdapat bahagian-bahagian "perforasi" dan tingkap segi empat yang besar, yang bertentangan dengan berat monumental dinding setebal 60 cm. Pelan gereja merangkumi halaman kerikil kecil di tapak perkuburan paroki lama. Pelawat memasukinya dalam perjalanan dari lobi ke "ruang pameran" utama di tingkat satu. "Dewan" ini adalah ruangan besar setinggi 12 m, di mana jambatan zigzag diletakkan di atas landasan bangunan kuno dan abad pertengahan yang dijumpai sebagai hasil penggalian arkeologi. Zumthor menggunakan pencahayaan buatan dengan sangat berhati-hati di sini, jadi hampir semua cahaya masuk melalui jalur lubang kecil di dinding luar bangunan; dari dalam, teknik ini lebih menekankan bentuk tembok yang kelihatan seperti ini, yang dapat dilihat sebagai kiasan kepada prinsip-prinsip seni bina suci Gothic atau rujukan karya-karya mistik pada masa itu. Oktahedron kapel Boehm tertulis di ruang yang sama, yang dapat diakses dari luar muzium.
Di penghujungnya, sebuah jambatan mengarahkan pengunjung ke tempat bekas sakristi, berubah menjadi halaman kecil; ada patung oleh Richard Serra "Tenggelam dan diselamatkan".
Di atas tingkat pertama, terdapat dua tingkat lagi ruang pameran, dengan jumlah keseluruhan enam belas. Mereka direka sebagai blok bebas - "rumah", di mana "jalan" teraso putih diletakkan; setiap ruang tersebut berbeza dari yang lain dari segi ukuran, kaedah dan intensiti pencahayaan dan cara pemeriksaan. Pameran dipamerkan di dalamnya tanpa memerhatikan kronologi dan tanpa teks dan label penjelasan. Oleh itu, kurator muzium ingin mencapai persepsi yang tidak berat sebelah terhadap karya seni oleh penonton.
Dalam projek muzium keuskupan Cologne, Zumthor digunakan untuk menyatukan monumen budaya dari era yang berbeza - kedua-dua seni bina, terletak di situ, dan termasuk dalam koleksi muzium - bahasa seni bina formal yang ditekankan, dilembutkan oleh perhatian arkitek terhadap spesifik bahan, untuk sifat taktil dan visualnya; peranan khas di sana dimainkan oleh pencahayaan, yang hampir tidak mencukupi untuk pemeriksaan penuh terhadap pameran, tetapi memberi persepsi mereka keasyikan khas. Semua ini menjadikan karya ini, paling tidak dari luar, mirip dengan bangunan-bangunan keagamaan pada Zaman Pertengahan, zaman pembinaan gereja St. Columba yang hancur, yang memberinya namanya, serta masa hegemoni Katolik di wilayah Jerman, yang belum mengetahui pergolakan Reformasi. Pada masa yang sama, penggunaan teknik seni bina suci dalam pembinaan muzium - bahkan muzium seni keagamaan - membuat seseorang berfikir tentang perubahan mendalam dalam sistem keutamaan seseorang moden, bukan hanya mengenai peralihan cita-cita rohani ke arah gambaran dunia yang lebih "sekular", tetapi juga mengenai aspek "populis" tertentu dari keseluruhan bidang budaya moden. Namun, tidak boleh dilupakan bahawa seni bina katedral abad pertengahan Barat yang sama dirancang bukan untuk segelintir golongan elit, tetapi untuk semua orang percaya tanpa kecuali; Mungkin Zumthor meneruskan baris ini di Muzium Columbus, menangani setiap kita melalui reka bentuk bangunannya.
