正确答案 ：D

解析

本题考查行政诉讼。发放毕业证书是一种行政行为，因此应该以甲高校为被告提起行政诉讼。故本题答案为D。