粗糙大理石胶可以用以下方法进行清理：

首先，用木刮子或塑料刮子将胶层刮掉。

然后，用软布和温水将残留的胶水擦拭干净。

如果残留的胶水太难清除，则可以使用海绵或刷子轻轻擦拭。可以在清洗过程中添加少量中性清洁剂，帮助去除顽固的污垢。但要注意避免使用酸性或碱性清洁剂，因为这些清洁剂会对大理石造成损伤。

在清洗完毕后，还需用干布将表面完全擦干，避免留下水渍。