Testamentarisch festgelegt wurde von Ahrweiler u. a. die Verpflichtung, an der Nordseite der Annakirche eine Josefskapelle zu errichten und an jedem Mittwochmorgen um sieben Uhr eine stille heilige Messe zu Ehren des hl. Josef in der Kapelle am Altar lesen zu lassen. Die königliche Genehmigung zur Annahme der betreffenden testamentarischen Bestimmung erfolgte erst nach langjährigen und verwickelten rechtlichen Erörterungen der beteiligten Stellen am 4. Mai 1878.
Im Rahmen von Restaurierungsarbeiten, die im Jahr 1879 durch den Architekten Heinrich Wiethase (1833–1983) begonnen wurden, konnte die Grundsteinlegung für die Josefskapelle am 26. August 1879 erfolgen. Die Dürener Volkszeitung berichtete hierüber am nächsten Tag:
Gestern Vormittag um ½ 11 Uhr fand bei zahlreicher Anwesenheit der Gemeindemitglieder, des Kirchenvorstandes, der Geistlichkeit, der Vertreter der Stadt und sonstigen Publikums die feierliche Grundsteinlegung zum Bau der St. Josephscapelle statt. Der Platz war festlich mit Guirlanden, Fahnen und kirchlichen Enblemen geschmückt. [...] Sodann wurde die versiegelte Flasche, welche Münzen von 1 Pfg. bis 5 Mark, sowie die letzte Nummer der sämmtlichen hier erscheinenden Zeitungen enthält, vermauert, wobei der Cäcilien-Verein ein kirchliches Lied vortrug. [...] Die Urkunde, welche vom Unternehmer des Baues, Herrn Baumeister Schmitz, recht geschmacksvoll ausgeführt ist, ist photographisch vervielfältigt worden und enthält folgende Inschrift:
Anno post Christum natum MDCCCLXXIX.
Leone XIII. Pontifice Maximo, Guilelmo I. Germanorum et Borussorum Rege. Sacellum hoc ad aedem S. Annae dicatam annexum et S. Josepho dicatum e pecuniis a Viro Illustrissimo Alexandro Theodoro Ahrweiler Gymnasio Marcodurano hereditate relictis condi coeptum et die XIX. mensis Augusti hic lapis fundamento insertus est.
Der Bau selbst erfolgte nach Plänen des Kölner Architekten Franz Schmitz (1832–1894) und war 1881 abgeschlossen. Die als bisher fehlendes Gegenstück zur Marienkapelle an der Südseite errichtete Josefskapelle ließ de facto ein Querschiff entstehen und verlieh der Annakirche eine vollendete, harmonische Form.
Am 19. März 1881 weihte Dechant Anton Vaßen (1799–1891) die Josefskapelle ein.