安全に使えますし、安全に使えません。
説明が難しいのですが、安全に使える理由は、現在のマズルローディングの銃は殆ど無煙火薬が使用されています。
硝石、硫黄、木炭を材料とする黒色火薬は発火しやすく、衝撃にも弱いため取り扱いが難しい特徴があり、アメリカでは爆薬に分類されています。しかし、かつて黒色火薬が使用された銃には現在では代替黒色火薬(Pyrodex)が広く利用されており、これは黒色火薬と同じ容量で同等の腔圧を生じる火薬でありながら、黒色火薬より燃焼速度が遅く発火しにくいという特徴があり、取り扱いやすく安全な装薬として利用されています。
そしてこの代替黒色火薬はアメリカでは無煙火薬に分類されているのですが、一般的には無煙火薬ではなく黒色火薬として認知されています。(代替黒色火薬には黒色火薬と同じ成分が含まれますが、それに加えてカリウム、過塩素酸塩、黒鉛などが含まれています)
ご質問の趣旨は「現代の金属カートリッジで使用される無煙火薬を黒色火薬の銃で使用可能か」ということだと思いますが、現在では無煙火薬を使用するマズルローディング・ライフルが販売されており、そういった銃では使用可能です。
また、少量の無煙火薬で火縄銃のような黒色火薬のアンティーク銃で使用可能かという問題については、厳密には可能ですが、装薬量の調整などが難しく、おまけに弾速が出なかったり事故が起こりやすいため、避けた方が良いといえます。わざわざ危険を冒して無煙火薬を利用するメリットがありません。
問題となるのは銃が耐えられる圧力がどれぐらいかということになり、それぞれに限界値が存在し、黒色火薬で発生する圧力より下回れば安全と言えますが、その場合必要とされる弾速を出すことが難しくなります。
黒色火薬と無煙火薬をそれぞれ使用し同じ弾速を出す場合、無煙火薬の方が高圧になるため、安全に発射しようと大幅に減装すれば黒色火薬を使用した場合より弾速が低速で極端に性能を落とすことにもなります。
また無煙火薬は重さを測って調整しますが、黒色火薬では容量を測って調整するため、誤って両方とも容量で測ってしまうとオーバーロードとなって事故にも繋がりますし、無煙火薬は黒色火薬よりも発火しにくいため不発の確率も高くなり、無煙火薬の使用は事故のリスクや問題が多々あります。