红联Linux门户
Linux帮助

【故障案例分享】Linux服务器无法挂载Netapp存储

发布时间:2016-09-01 10:59:05来源:linux网站作者:波特森
笔者今天分享一个之前遇到过的案例:
 
拓扑介绍:某公司IDC的网络结构为两台思科N7K做为核心交换机,N3K为接入交换机,两根光纤通过VPC上连至核心交换机,N7K做为所有服务器的三层网关。所有服务器单网卡上联至接入交换机,网络中的服务器全部为Dell服务器,有做webserver的,有做sql数据库的,也有做网络存储的,一切运行正常。
 
故障现象:一个月之后,公司买了一台netapp的存储,做为存储服务器,通过NFS与linux进行连接,并且通过10G的光纤分别使用vpc分别接入N7K-1和N7K-2。这时候发现服务器通过NFS挂载存储,一部分可以挂载成功,一部分不成功,还有一些执行命令特别慢。
 
拓扑如下:
【故障案例分享】Linux服务器无法挂载Netapp存储
 
排查思路:
排查服务器问题:检查配置和命令,发现服务器没有问题,同一服务器挂载其他存储全部正常,初步排除服务器问题;
在排查完服务器后之后,怀疑问题为netapp存储或网络的问题。继续往下排查
排查交换机问题:在所有交换机查看是否有数据丢包,未发现有input或outputdiscard,但发现从netapp进来的流量一部分未能发送给N3K;
排查存储问题:通过手包发现存储在回应数据包的时候,未封装HSRP虚拟IP的mac地址,而使用了物理mac地址进行封装。
 
故障原因:由于netapp上vpc上连,接入交换机也是vpc上连。但netapp在发送数据的时候,一部分数据包封装没有使用HSRP的mac地址(通过ARP可在netapp上看到),而使用了SVI接口的mac地址,导致数据流量会穿越Peer-Link,而数据一旦穿越peer-link,由于VPC防环机制,从memberport发送过来的流量穿越peer-link,不会再发送给memberport,导致数据包不被处理,服务器无法挂载。
 
解法办法:
1.存储optionsip.fastpath.enable选项设置为on,为提高相应效率,存储会从源mac地址回包,而不查看路由表,造成了之前的问题。配置Netapp存储,确保存储只会使用10.204.12.1的HSRPmac地址封装数据,即将ip.fastpath.enable功能改为off;
2.配置N7K VPC Domain,增加Peer gateway的配置。Peergateway就是让两台N7K都不仅响应HSRP的MAC和自己的MAC,也响应另一台N7K的MAC,这样流量就不需要穿越Peer-link。
 
本文永久更新地址://m.ajphoenix.com/linux/23792.html