日归档:2018 年 7 月 17 日

数据挖掘知识

1.目标 没有目标的挖掘,不是数据挖掘。要不为了提高用户下单,要不为了提高用户注册。 2.业务知识 这项业务到底在如何影响我的数据挖掘。比如我们的系统是电子商务,用户下单之前经过了多少个步骤,每一个步骤的转化率是什么,那些成单的客户和不成单的客户有什么行为区别。 3.数据准备 收集数据,定义收集什么样的数据,在数据挖掘之前比什么都重要,如果数据的收集工作花费总体数据挖掘的80%的时间,月小升建议你不要惊讶。 4.试验,一个正确的模型只有通过试验(experiment)才能被发现。 数据挖掘者将问题公 式化和寻找解决方法是同时进行的—–算法仅仅是帮助数据挖掘者的一个工具 5.模式,数据总含有模式 客户关系的数据挖掘项目,总是存在着这样的模式即客户未来的行为总是和先前的行为相关,显然这些模式是有利可图的。 所有得分析都为了找到共同点,抽取出一个公式来定义我的购买用户到底有哪些行为?哪些不购买的用户有什么共同点呢? David Watkins 6. 洞察:数据挖掘增大对业务的认知。 思考:为什么数据挖掘必须是一个业务过程而不是一个技术过程 7.预测 预测提高了信息泛化能力。 分类、回归、聚类和关 联算法以及他们集成模型有什么共性呢?答案在于“评分”,这是预测模型应用到一个新样例的方式 8,价值 数据挖掘的结果的价值不取决于模型的稳定性或预测的准确性。 9,变化:所有的模式因业务变化而变化。一句玄学的话月小升java-er.com建议忽略此句话 数据分析师 http://www.cda.cn/view/18916.html CRISP-DM CRISP-DM 模型为一个KDD工程提供了一个完整的过程描述。该模型将一个KDD工程分为6个不同的,但顺序并非完全不变的阶段。 商业理解(business understanding) 在这第一个阶段我们必须从商业的角度了解项目的要求和最终目的是什么,并将这些目的与数据挖掘的定义以及结果结合起来。 主要工作包括:确定商业目标,发现影响结果的重要因素,从商业角度描绘客户的首要目标,评估形势,查找所有的资源、局限、设想以及在确定数据分析目标和项目方案时考虑到的各种其他的因素,包括风险和意外、相关术语、成本和收益等等,接下来确定数据挖掘的目标,制定项目计划。 数据理解(data understanding) 数据理解阶段开始于数据的收集工作。接下来就是熟悉数据的工作,具体如:检测数据的量,对数据有初步的理解,探测数据中比较有趣的数据子集,进而形成对潜在信息的假设。收集原始数据,对数据进行装载,描绘数据,并且探索数据特征,进行简单的特征统计,检验数据的质量,包括数据的完整性和正确性,缺失值的填补等。 数据准备(data preparation) 数据准备阶段涵盖了从原始粗糙数据中构建最终数据集(将作为建模工具的分析对象)的全部工作。数据准备工作有可能被实施多次,而且其实施顺序并不是预先规定好的。这一阶段的任务主要包括:制表,记录,数据变量的选择和转换,以及为适应建模工具而进行的数据清理等等。 根据与挖掘目标的相关性,数据质量以及技术限制,选择作为分析使用的数据,并进一步对数据进行清理转换,构造衍生变量,整合数据,并根据工具的要求,格式化数据。 … 继续阅读

发表在 高并发与大数据 | 标签为 , | 留下评论