SAN奇怪問題求助�。�！

wstar

在一個SAN網(wǎng)絡(luò)中掛載有2個SUN的3510磁盤陣列，使用正常。

后來又接入了一個SUN的6140磁盤陣列，問題就來了：

1、最初是在應(yīng)用中發(fā)現(xiàn)的，業(yè)務(wù)處理程序出現(xiàn)異常，磁盤IO非常高。
iostat -xtn 1 10
顯示應(yīng)用所在磁盤（是3510陣列中的一個邏輯盤）IO非常高。%b的值近乎100%
2、dmesg信息：
Apr  8 11:37:53 ZZ-K5-SMMC1-PUSH scsi: [ID 799468 kern.info] ssd32 at scsi_vhci0: name g600a0b800048213a0000041749dbbc54, bus address g600a0b800048213a0000041749dbbc54
Apr  8 11:37:53 ZZ-K5-SMMC1-PUSH genunix: [ID 936769 kern.info] ssd32 is /scsi_vhci/ssd@g600a0b800048213a0000041749dbbc54
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.warning] WARNING: /scsi_vhci/ssd@g600c0ff000000000099bd9626d053400 (ssd27):
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH        Error for Command: write(10)               Error Level: Retryable
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Requested Block: 46962192                  Error Block: 46962192
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Vendor: SUN                                Serial Number: 626D0534-00
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Sense Key: Unit Attention
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  ASC: 0x29 (power on, reset, or bus reset occurred), ASCQ: 0x0, FRU: 0x0
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH genunix: [ID 408114 kern.info] /scsi_vhci/ssd@g600a0b800048213a0000041749dbbc54 (ssd32) online
Apr  8 11:37:54 ZZ-K5-SMMC1-PUSH genunix: [ID 834635 kern.info] /scsi_vhci/ssd@g600a0b800048213a0000041749dbbc54 (ssd32) multipath status: degraded, path /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@1/fp@0,0 (fp0) to target address: w201300a0b848213a,0 is standby Load balancing: round-robin
Apr  8 11:37:55 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(1)::N_x Port with D_ID=10700, PWWN=210000e08b85a411 reappeared in fabric
Apr  8 11:37:55 ZZ-K5-SMMC1-PUSH genunix: [ID 834635 kern.info] /scsi_vhci/ssd@g600a0b8000485f500000040349dbbc98 (ssd31) multipath status: optimal, path /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fp1) to target address: w201200a0b848213a,1 is standby Load balancing: round-robin
Apr  8 11:37:55 ZZ-K5-SMMC1-PUSH genunix: [ID 834635 kern.info] /scsi_vhci/ssd@g600a0b800048213a0000041749dbbc54 (ssd32) multipath status: optimal, path /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fp1) to target address: w201200a0b848213a,0 is online Load balancing: round-robin
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.warning] WARNING: /scsi_vhci/ssd@g600c0ff000000000099bd9626d053400 (ssd27):
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH        Error for Command: write(10)               Error Level: Retryable
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Requested Block: 46899968                  Error Block: 46899968
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Vendor: SUN                                Serial Number: 626D0534-00
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Sense Key: Unit Attention
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  ASC: 0x29 (power on, reset, or bus reset occurred), ASCQ: 0x0, FRU: 0x0
Apr  8 12:17:01 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(1)::GPN_ID for D_ID=10d00 failed
Apr  8 12:17:01 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(1)::N_x Port with D_ID=10d00, PWWN=201200a0b848213a disappeared from fabric
Apr  8 12:17:04 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(0)::GPN_ID for D_ID=10d00 failed
Apr  8 12:17:04 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(0)::N_x Port with D_ID=10d00, PWWN=201300a0b848213a disappeared from fabric
Apr  8 12:17:20 ZZ-K5-SMMC1-PUSH scsi: [ID 243001 kern.info] /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fcp1):
Apr  8 12:17:20 ZZ-K5-SMMC1-PUSH        offlining lun=1 (trace=0), target=10d00 (trace=2800004)
Apr  8 12:17:20 ZZ-K5-SMMC1-PUSH scsi: [ID 243001 kern.info] /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fcp1):
Apr  8 12:17:20 ZZ-K5-SMMC1-PUSH        offlining lun=1f (trace=0), target=10d00 (trace=2800004)
Apr  8 12:17:20 ZZ-K5-SMMC1-PUSH scsi: [ID 243001 kern.info] /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fcp1):
Apr  8 12:17:20 ZZ-K5-SMMC1-PUSH        offlining lun=0 (trace=0), target=10d00 (trace=2800004)

后來把6140從SAN中拔掉，重啟了3510陣列�；謴驼�常。

請高手幫忙分析一下，到底是什么原因?qū)е铝松鲜龅漠惓＃?br />
謝謝。

wolfheader

新加的6140分給了同一臺（多臺）主機？

multi-path degrade不知道是不是有問題

wstar

新加的6140陣列應(yīng)該是多臺主機都能看到。
多路徑啟用了的。
應(yīng)該沒有問題吧。

wolfheader

太復雜，這兩款是O的lsi的吧，應(yīng)該只是failover模式？

zone符合要求？

heroesray

看樣子總發(fā)生fc scsi reset.看看補丁達到6140要求沒？6140最好也用最新cam升級到6.60
Solaris 8:
.• STK6X40: Update 4, & 108974-49 &
SFK 4.4.10
Solaris 9:
• STK6X40: FCS, & 113277-44 & SFK
4.4.10
Solaris 10
• STK6X40: Update 2 & 118833-16

wolfgroup

如果fc swtich是brocade的，把porterrshow貼出來看看，并注明陣列連接了那個端口

wstar

Switch 是 brocade的。
明天將porterrshow貼出來。

hexilanlan

小笨牛

問題的關(guān)鍵是連接st6140的兩個FC口為何會自動消失了呢？難道是光纖有問題？
Apr  8 12:17:01 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(1)::N_x Port with D_ID=10d00, PWWN=201200a0b848213a disappeared from fabric
Apr  8 12:17:04 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(0)::GPN_ID for D_ID=10d00 failed
Apr  8 12:17:04 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(0)::N_x Port with D_ID=10d00, PWWN=201300a0b848213a disappeared from fabric
而后這兩個FC又會自動出現(xiàn)。出現(xiàn)的時候就會影響到sun3510的lun，出現(xiàn)一個告警：
Apr  8 11:37:55 ZZ-K5-SMMC1-PUSH fctl: [ID 517869 kern.warning] WARNING: fp(1)::N_x Port with D_ID=10700, PWWN=210000e08b85a411 reappeared in fabric
Apr  8 11:37:55 ZZ-K5-SMMC1-PUSH genunix: [ID 834635 kern.info] /scsi_vhci/ssd@g600a0b8000485f500000040349dbbc98 (ssd31) multipath status: optimal, path /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fp1) to target address: w201200a0b848213a,1 is standby Load balancing: round-robin
Apr  8 11:37:55 ZZ-K5-SMMC1-PUSH genunix: [ID 834635 kern.info] /scsi_vhci/ssd@g600a0b800048213a0000041749dbbc54 (ssd32) multipath status: optimal, path /pci@7c0/pci@0/pci@1/pci@0,2/SUNW,qlc@2/fp@0,0 (fp1) to target address: w201200a0b848213a,0 is online Load balancing: round-robin
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.warning] WARNING: /scsi_vhci/ssd@g600c0ff000000000099bd9626d053400 (ssd27):
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH        Error for Command: write(10)               Error Level: Retryable
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Requested Block: 46899968                  Error Block: 46899968
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Vendor: SUN                                Serial Number: 626D0534-00
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  Sense Key: Unit Attention
Apr  8 11:37:56 ZZ-K5-SMMC1-PUSH scsi: [ID 107833 kern.notice]  ASC: 0x29 (power on, reset, or bus reset occurred), ASCQ: 0x0, FRU: 0x0

[ 本帖最后由 小笨牛 于 2009-5-14 16:05 編輯 ]

小笨牛

原帖由 wstar 于 2009-4-8 16:57 發(fā)表
Switch 是 brocade的。
明天將porterrshow貼出來。

        frames  enc  crc  too  too  bad  enc disc link loss loss frjt fbsy
       tx   rx   in  err shrt long  eof  out   c3 fail sync  sig
     =====================================================================
  0:  2.6g 3.3g   0    0    0    0    0  1.4k  46    0    8   10    0    0
  1:  2.3g 2.5g   0    0    0    0    0  358   44    0    7    9    0    0
  2:  586m 3.0g   0    0    0    0    0  461   49    0    8   10    0    0
  3:  2.0g 1.6g   0    0    0    0    0   60   55    0    4    6    0    0
  4:  2.6g 3.4g   0    0    0    0    0  651   40    0    8   10    0    0
  5:  1.6g 147m   0    0    0    0    0  2.0k  39    0    9   11    0    0
  6:  771m  41m   0    0    0    0    0  2.1k  43    0   10   12    0    0
  7:  346k  21k   0    0    0    0    0   88k   0    0   20   21    0    0
  8:    0    0    0    0    0    0    0    0    0    0    0    2    0    0
  9:    0    0    0    0    0    0    0    0    0    0    0    2    0    0
10:    0    0    0    0    0    0    0    0    0    0    0    2    0    0
11:    0    0    0    0    0    0    0    0    0    0    0    2    0    0
12:    0    0    0    0    0    0    0    0    0    0    0    2    0    0
13:  9.2k 152k   0    0    0    0    0  681    0    1    4    5    0    0
14:  1.6g 2.0g   0    0    0    0    0   25    0    1    2    4    0    0
15:  3.9g 2.0g   0    0    0    0    0  390m 122    0    4    7    0    0
16:    0    0    0    0    0    0    0    0    0    0    0    0    0    0

0－7sun主機
13口6140
14、15口3510