解:(1) ∵ m=(sinA,cosA),n=(sinB,﹣cosB) (m、n表示向量)
∴ m•n=sinA sinB-cos AcosB
∴ m•n =﹣cos(A+B)
∴m•n=﹣(﹣cosC) (A+B=π-C,三角函数诱导公式)
即 m•n=cosC
∵|m|=√(sin²A+cos²A)=1 ,|n|=√(sin²B+cos²B) =1
(“√”表示算术平方根,以下相同)
∴由m•n=|m| |n| cos(π/3) 得 cosC=cos(π/3)=1/2 即 C=π/3
故内角C=π/3
(2)∵三角形的面积S=6√3
∴1/2absinC=6√3 即 1/2absin(π/3)=6√3
∴ab=24 ···············①
∵c²=a²+b²-2abcosC (余弦定理)
∴7²=a²+b²-2abcos(π/3)
∴ a²+b²-ab=49 ···········②
由②-① 得 a²+b²-2ab=49 即 (a-b)² =49
∵a>0,b>0 且a>b
∴a-b=7 ··············③
由 ①×3+② 得 a²+b²+2ab=121 即 (a+b)² =121
∴ a+b=11 ··············④
由③④联合解方程组 得 a =9 且 b=2
故a、b的值分别为9,2.