先日購入報告したRX 580のグラボをHigh SierraのMac Pro 2010に入れたところ当然起動画面はでませんがOSでのドライバーでの表示は問題ないようです。ただしグラボのAudioドライバーが入らなかったので以下の手順を参照してドライバを入れて4K TVから音声出力を確認しています。
https://forums.macrumors.com/threads/hdmi-displayport-audio-fix.2147525/