如果企业尚未完成税务登记（例如，由于实施了三证合一政策而未单独办理税务登记证），则可以凭借营业执照、公章、财务报表以及法人代表的身份证明等材料向银行申请贷款。

然而，若公司应履行税务登记义务却未进行登记，那么它将无法通过银行的审核流程，进而无法成功获得贷款批准。